Google составили свои пять законов робототехники

24 июня 2016
Фото аватара
24.06.2016
1744
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Статьи

Какие фильмы смотреть в апреле 2024 в кино? Кирдык Америке, взрослая Алиса и французская романтика 9
0
14225
Какие фильмы смотреть в апреле 2024 в кино? Кирдык Америке, взрослая Алиса и французская романтика

В апреле российский прокат богат на интересные инди-фильмы.

«Задача трёх тел»: какой получилась западная экранизация китайского романа 3
0
25016
«Задача трёх тел»: какой вышла западная экранизация китайского романа

Неровная, но интересная попытка экранизировать сверхпопулярный роман китайского фантаста

Мир фантастики. Спецвыпуск № 14 (2024). Фантастическая музыка 2
0
90504
Мир фантастики. Спецвыпуск № 14 (2024). Фантастическая музыка

О том, как музыканты передают образы Средиземья, будущего или стимпанка, и об историях, которые они рассказывают в своих песнях.

Сериал Halo, второй сезон: идеальная посредственность 4
0
71652
Сериал Halo, второй сезон: идеальная посредственность

На каждую интересную сюжетную находку найдётся своя банальность.

Mass Effect 5: чего мы ждём? Намёки, загадки и надежды фанатов 2
0
119274
Новый Mass Effect: чего мы ждём? Намёки, загадки и надежды фанатов

Будущее Млечного Пути, каноничный финал и возвращение Капитана

Настольная игра «Побег из Вистара»: тактика и стратегия гениальных лабораторных крыс 1
0
189374
Настольная игра «Побег из Вистара»: тактика и стратегия гениальных лабораторных крыс

Атмосферный еврогейм о построении колонии грызунов

Лю Цысинь «О муравьях и динозаврах». Тяжкая жизнь в симбиозе
0
177977
Лю Цысинь «О муравьях и динозаврах». Тяжкая жизнь в симбиозе

Пёстрый сборник знаменитого китайского фантаста

Мультсериал X-Men ’97: возвращение Радиоактивных людей. Первые впечатления 1
0
306504
Мультсериал X-Men ’97: возвращение Радиоактивных людей. Первые впечатления

Как минимум не хуже оригинала!

Спецпроекты

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: