3

Google составили свои пять законов робототехники

24 июня 2016
Фото аватара
24.06.2016
1586
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Статьи

Сериал «Кибердеревня»: «Байки из Петли» у нас дома
0
25252
Сериал «Кибердеревня»: «Байки из Петли» у нас дома

Каким получился сериал «Кибердеревня», снятый по вирусному ролику с YouTube.

Комикс: Один за всех 1
0
34258
Комикс: Один за всех

«Я задержу их, ничего!»

Комикс: Моральная поддержка 1
0
109547
Комикс: Моральная поддержка

Гэндальф, самое время для орлов!

Анна Бжезинская «Вода в решете. Апокриф колдуньи». Трудная жизнь ведьмы
0
155586
Анна Бжезинская «Вода в решете. Апокриф колдуньи». Трудная жизнь ведьмы

Исторический детектив с уклоном в фантазию.

Комикс: Настоящий косплей 3
0
214300
Комикс: Настоящий косплей

Ничего ты, андроид, не понимаешь!

Как Александр Ремизов создавал комиксы для «Мира фантастики»
0
374194
Как Александр Ремизов создавал комиксы для «Мира фантастики»

Примеры раскадровок и сценариев.

Комикс: Зёв Ктулху 1
0
383272
Комикс: Зёв Ктулху

Он видит сон про Некро-Комик-Кон…

Замиль Ахтар «Стальные боги». Две империи, два героя
0
333902
Замиль Ахтар «Стальные боги». Две империи, два героя

Историческое фэнтези на тему крестовых походов.

Спецпроекты

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: