3

Google составили свои пять законов робототехники

24 июня 2016
Avatar photo
24.06.2016
1347
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

Обзор Evil West: дикая, дикая категория Б 5
0
62304
Обзор Evil West. Дикая, дикая категория Б

Бюджетная God of War про Ван Хельсинга

1899 вопросов — и ни одного ответа. Стоит ли смотреть новый сериал от создателей «Тьмы» 5
0
114725
1899 вопросов — и ни одного ответа. Стоит ли смотреть новый сериал от создателей «Тьмы»

Кому сериал понравится, а кто будет в ярости? И правда ли, что его украли из какого-то комикса?

Что почитать из фантастики? Книжные новинки мая 2022 7
0
167638
Анна Старобинец «Лисьи Броды». Магическая история о любви и верности ей

Детективный магреализм с философией и романтикой.

«Стражи Галактики: Праздничный спецвыпуск»: Санте нужен огнемёт! 3
0
207699
«Стражи Галактики: Праздничный спецвыпуск»: Санте нужен огнемёт!

Как герои Marvel спасали праздник.

Фантасты, которые начинали свой путь в журналистике 12
0
325192
Фантасты, которые начинали свой путь в журналистике

Терри Пратчетт Писать Терри Пратчетт начал ещё в школе, причём его рассказы публиковались не только в школьной газете, но и в настоящих научно-фантастических журналах. В 17 лет он решил уйти […]

Читаем плутовское тёмное фэнтези «Вор с черным языком» — в духе Скотта Линча и Глена Кука
0
267674
Читаем плутовское тёмное фэнтези «Вор с чёрным языком» — в духе Скотта Линча и Глена Кука

Публикуем самое начало романа, в котором главный герой — преступник с большой дороги — ожидает в засаде с бандой, чтобы напасть на чужеземку. Разумеется, ничем хорошим это закончиться не может.

Поиграли в Atomic Heart и делимся впечатлениями 3
0
323267
Поиграли в Atomic Heart и делимся впечатлениями

Оно живое, я щупал!

Лучшие фильмы и сериалы про мирные решения и переговоры: фантастика 1
0
326514
Лучшие сериалы про мирные решения и переговоры: фантастика

Герои, которые предпочитают договариваться, а не стрелять на поражение.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: