3

Google составили свои пять законов робототехники

24 июня 2016
Кот-император
24.06.2016
911
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

Diablo Immortal — не для фанатов Diablo? Первые впечатления от мобильной игры  13
0
20778
Diablo Immortal — не для фанатов Diablo? Первые впечатления от мобильной игры 

Это действительно крутой проект, но подойдёт он не всем фанатам оригинальной линейки.

Фантастическое аниме весны 2021: что стоит смотреть? 19
0
78701
Фантастическое аниме весны 2021: что стоит смотреть?

Составляем впечатления по начальным эпизодам аниме апреля-мая 2021 года: «Король шаманов», «Для тебя, Бессмертный», «Годзилла», «Дом теней» и многие другие.

Обзор Outriders: травматический опыт в кооперативной игре 11
0
89716
Обзор Outriders: травматический опыт в кооперативной игре

Из тех игр, что Санта дарит самым непослушным детям. В наказание.

Читаем книгу: Глен Кук «Дракон не спит никогда»
0
135878
Читаем книгу: Глен Кук «Дракон не спит никогда»

Боевая космическая фантастика от автора серии «Чёрный отряд». Роман, который часто сравнивают с «Дюной».

Читаем книгу «Видящая звёзды» Брендона Сандерсона 1
0
147166
Брендон Сандерсон «Видящая звёзды»: примерно такой будет космическая эра Космера

Продолжение «Устремлённой в небо» раскрывает сеттинг за пределами планеты людей и знакомит с новой угрозой.

Мир фантастики №210 (май 2021) 5
0
198101
Мир фантастики №210 (май 2021)

Булгаков, Титан, Шрек и библиотеки Плоского мира.

Обзор Resident Evil: Village. Большой попкорн с кровью, пожалуйста! 11
0
204877
Обзор Resident Evil: Village. Большой попкорн с кровью, пожалуйста!

Вампиры вместо злобной корпорации.

Как «Вампиры средней полосы» продолжают традиции «Ночного дозора» 1
0
186535
Как «Вампиры средней полосы» продолжают традиции «Ночного дозора»

Сериал успешно переносит клише городской мистики в российские реалии, при этом развивая семейную тему в духе «Аддамсов».

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: