3

Google составили свои пять законов робототехники

24 июня 2016
Кот-император
24.06.2016
862
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

Читаем книгу Гильермо Дель Торо и Чака Хогана «Незримые»
0
10159
Читаем книгу Гильермо Дель Торо и Чака Хогана «Незримые»

В отрывке молодой спецагент ФБР прибывает в глухую чащу, где произошло ещё одно убийство. Жертву линчевали, и похоже, в деле замешана мистическая подоплёка.

Как Зак Снайдер потерял, а потом вернул «Лигу справедливости»
0
18334
Снайдеркат: Как Зак Снайдер потерял, а потом вернул «Лигу справедливости»

«Никто не хотел признавать, какое это жуткое говно», — так сейчас говорят о версии Джосса Уидона. 

Гильермо Дель Торо, Чак Хоган «Незримые»
0
23979
Гильермо Дель Торо, Чак Хоган «Незримые»

Мистический триллер с массовыми убийствами, потусторонними сущностями и Джоном Ди.

Видео: обзор настольной игры «Погоня за Авророй»
0
65643
Видео: обзор настольной игры «Погоня за Авророй»

Вы можете поучаствовать в конкурсе и выиграть эту настолку!

Читаем книгу «Хидео Кодзима. Гены гения»
0
118944
Читаем книгу «Хидео Кодзима. Гены гения»

Два эссе, в которых геймдизайнер вспоминает повлиявших на него двух писателей: Кобо Абэ и Роберта Брауна Паркера.

Роман Файницкий «Забвение»
0
344373
Роман Файницкий «Забвение»

Главный герой вместе с девушкой-фотографом Мартой уже какое-то время живёт в доме на отшибе. Вокруг — ни души, идиллию нарушают лишь мощные ураганы, которые налетают каждые несколько дней.

Дерек Кюнскен «Квантовый волшебник»
0
174826
Дерек Кюнскен «Квантовый волшебник»

«Одиннадцать друзей Оушена» в космосе.

Космическая фантастика о ближайшем будущем 2
0
232781
Пять романов в жанре фантастики ближнего прицела

Детективный триллер, «робинзонада» и даже абсурдная антиутопия.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: