Google составили свои пять законов робототехники

24 июня 2016
Фото аватара
24.06.2016
1859
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Статьи

Джеймс Блэйлок «Земля мечты. Последний сребреник». Californication
0
9481
Джеймс Блэйлок «Земля мечты. Последний сребреник». Californication

Взрослые сказки на грани абсурда

Художница Дарья Рашевская: игровы 1
0
75203
Художница Дарья Рашевская: концепт-арты, нежить и вороны

Петербургская художница — о вдохновении от техзаданий, пользя арт-челленджей и влиянии «Малыша и Карлсона» вместе с Doom 2

1
0
116968
Мечтаем об электроовцах вместе с Филипом К. Диком в 134 выпуске «Фантастического подкаста»

Всем прослушавшим гарантируется улучшение понимания реальности на 73%

Читаем книгу: Замиль Ахтар — «Эпоха древних»
0
64999
Читаем книгу: Замиль Ахтар — «Эпоха древних»

Отрывок, в котором император готов осадить пещерный город, а кровавое облако готово осадить императора.

Экранизации книг, которые считалось невозможным экранизировать 18
0
109633
Экранизации книг, которые считалось невозможным экранизировать

Как магия слов превращается в магию киноэкрана

Какие эксперименты проводят на МКС? Космический огород, спортивные тренировки и тёмная материя 9
0
116750
Какие эксперименты проводят на МКС? Космический огород, спортивные тренировки и тёмная материя

Чем занимаются космонавты, кроме плавания в невесомости

Древнегреческая философия в китайской «гаче»: какой получилась история в Honkai: Star Rail? 12
0
170405
Древнегреческая философия в китайской «гаче»: какой получилась история в Honkai: Star Rail?

Каким получился глобальный сюжет в обновлении 2.0

Черновик 1082
0
202890
К черту сюжет, даешь комедию! Обзор третьего сезона «Коносубы»

Лучший пародийный исэкай «Этот замечательный мир!» вернулся и стал еще громче и смешнее.

Спецпроекты

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: