Google составили свои пять законов робототехники

3838
2 минуты на чтение
Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Если вы нашли опечатку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Статьи

Новости

Актеры «Сверхъестественного» назвали худшую серию в сериале

Новости

Роберт Паттинсон получил сценарий нового «Бэтмена» в кейсе с кодовым замком

Новости

Кидман и Буллок снова ведьмы: снято продолжение колдовского фильма из 1990-х «Практическая магия 2»
«Практическая магия 2» — в следующем году.

Новости

Премия «Эмми»-2025: полный список победителей
Фантастики немного.

Новости

4 сезон «Ведьмака» с Лиамом Хэмсвортом: тизер, кадры и дата выхода
Ирденом ходи!

Новости

Новая Fire Emblem и Resident Evil Requiem — что показали на Nintendo Direct

Новости

Первый тизер сиквела «Братьев Супер Марио в кино»

Новости

Милош Бикович и Евгений Чебатков на первых фото фэнтези-сериала «Тайный город»
Сериал выйдет в 2026 году.

Новости

Paramount хочет купить Warner Bros. Discovery

Новости

Новый трейлер «Буратино» с Федором Бондарчуком в роли Карабаса-Барабаса
Премьера ожидается 1 января.
Показать ещё