3

Google составили свои пять законов робототехники

24 июня 2016
Кот-император
24.06.2016
234
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

Джеймс Кори «Гнев Тиамат»
0
20883
Читаем книгу: Джеймс Кори «Гнев Тиамат». Восьмой роман цикла «Пространство»

Несколько десятков лет назад за двести тысяч триллионов километров от места, где находилась сейчас Элви, крошечный узел активной протомолекулы в биологической матрице проник на орбиту планеты под названием Илос верхом на корабле «Росинант»…

Что говорят известные фантасты о романе «Гидеон из Девятого дома» 1
0
30886
Что говорят известные фантасты о романе «Гидеон из Девятого дома»

Лесбиянки-некроманты исследуют готический дворец с привидениями в космосе! Разлагающиеся дворяне соперничают, чтобы служить бессмертному Императору! Скелеты!

Сексуальность будущего: гонзо-заметка 2
0
79444
Секс будущего: голограммы, виртуальность и одиночество

Что нас ждёт: секс с идеальными репликантами или киберпанк-одиночество, разбавленное виртуальными суррогатами?

Видео: летсплей настолки «Немезида» с BadComedian
0
152715
Видео: летсплей настолки «Немезида» с BadComedian

Не забудьте про конкурс в конце выпуска!

Комикс: Охотники за привидением с моторчиком
0
115257
Комикс: Охотники за привидением с моторчиком

«Он улетел, но обещал вернуться».

Читаем книгу «Стратегия отхода» Марты Уэллс
0
120660
Читаем книгу «Стратегия отхода» Марты Уэллс

История беглого автостража — большого любителя сериалов — продолжается!

Итак, у вас суперсилы. Как покорить мир?
0
149581
Итак, у вас есть сверхсилы. Как покорить мир?

Поздравляем, вы стали «супер» в фантастическом смысле этого слова. Пора мыслить прагматично.

Аниме «Созданный в Бездне: Рассвет глубокой души». Жестокость и милота 12
0
187777
Аниме «Созданный в Бездне: Рассвет глубокой души». Жуть и милота

Рассказываем про фильм, продолжающий один из главных аниме-сериалов последних лет.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: