3

Google составили свои пять законов робототехники

24 июня 2016
Кот-император
24.06.2016
64
1 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

С чего начать знакомство с Warhammer 40,000 4
0
35160
С чего начать знакомство с Warhammer 40,000

Часто в Warhammer попадают благодаря компьютерным играм: многие игроки и фанаты вселенной заинтересовались ею после того, как приобрели знаменитую Dawn of War. Другие случайно купили книгу. Третьи уже собирали модели […]

Стартовал предзаказ «Мира фантастики» №199 за июнь 2020
0
53186
Стартовал предзаказ «Мира фантастики» №199 за июнь 2020

Фантастика и фэнтези летнего солнцестояния.

Какой могла быть несостоявшаяся экранизация BioShock 29
0
43832
Сценарий экранизации Bioshock: шедевр, который мы потеряли?

Немногие знают, но в 2009 году Гор Вербински едва не снял экранизацию игры. Недавно в сети появился сценарий этого фильма — и он в хорошем смысле шокирует.

Дмитрий Костюкевич «Дартэ»
0
122545
Дмитрий Костюкевич «Дартэ»

Приятно, когда твоим попутчиком в межгалактическом путешествии оказывается умный человек, с которым интересно поболтать. Но не в том случае, если вы оба не те, кем представляетесь вначале…

Самые большие фэнтези-циклы. Чей длиннее? 12
0
106948
Самые большие фэнтези-циклы. Чей длиннее?

От «Колеса времени» до «Летописей Шаннары».

«Новые страхи»: сборник ужасов без чернухи и насилия
0
119959
«Новые страхи»: сборник ужасов без чернухи и насилия

Авторы эксплуатируют глубинные человеческие страхи, которые становятся от этого совсем реалистичными, а оттого гораздо более жуткими.

Во что играет МирФ. Выпуск #5: карантинный
0
237580
Расскажите, во что играет МирФ! Слово читателям

Продолжаем серию традиционных дайджестов «Что делает МирФ», посвящённых вашим предпочтениям и рекомендациям. Мы уже узнали, что ныне смотрят и что ныне читают подписчики «Мира фантастики», а теперь выясним, во что […]

Читаем комикс «Американский вампир: Дурная кровь» 16
0
174097
Читаем комикс «Американский вампир: Дурная кровь» по сюжету Стивена Кинга

История о вампирах на Диком Западе.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: