3

Google составили свои пять законов робототехники

24 июня 2016
Avatar photo
24.06.2016
1446
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Статьи

Марта Уэллс «Телеметрия беглецов». Кибернетический Шерлок Холмс
0
36381
Марта Уэллс «Телеметрия беглецов». Кибернетический Шерлок Холмс

Расследование убийства в глубинах космоса.

Читаем книгу «Орбита смерти» — фантастический триллер от астронавта Криса Хэдфилда
0
72359
Читаем книгу «Орбита смерти» — фантастический триллер от астронавта Криса Хэдфилда

Эпизод, в котором члены миссии «Аполлон-18» узнают, что во время полета их ждут совсем не те задачи, на которые они изначально рассчитывали.

«Гарри Поттер»: все фильмы от худшего к лучшему 14
0
134920
«Гарри Поттер»: все фильмы от худшего к лучшему

Рейтинг получился немного предсказуемым, зато честным.

Сериал «The Last of Us»: драма, а не парк аттракционов 5
0
183862
Сериал The Last of Us: драма, а не парк аттракционов

Сериал хороший, но мемасиков не будет

Мир фантастики №232 (март 2023) 2
0
264973
Мир фантастики №232 (март 2023)

Номер памяти Александра Ремизова.

Сэмюел Дилэни «Повести Невериона». Хроники магической земли
0
238379
Сэмюел Дилэни «Повести Невериона». Хроники магической земли

Нестандартное фэнтези, напоминающее трактат о сути бытия.

Обсуждаем все части «Героев Меча и Магии» в 71-м выпуске «Фантастического подкаста» 1
0
434154
Обсуждаем все части «Героев Меча и Магии» в 71-м выпуске «Фантастического подкаста»

Строй Капитолий на первой неделе!

Лавкрафт: общительный аристократ и прекрасный любовник. Что мы узнали из книги «Я — Провиденс»
0
293661
Лавкрафт: общительный аристократ и прекрасный любовник. Что мы узнали из книги «Я — Провиденс»

Что нового можно узнать из книги С. Т. Джоши. и какие мифы она развенчивает.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: