3

Google составили свои пять законов робототехники

24 июня 2016
24.06.2016
1193
0 минут на чтение

Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

«Очень странные дела», финал 4 сезона: «Война бесконечности» от сериалов 5
0
45240
«Очень странные дела», финал 4 сезона: «Война бесконечности» от сериалов

Никаких больше загадок. Никаких новых персонажей. Никаких топтаний на одном месте. Только концентрированная драма и экшен, причём в таких масштабах, каких ещё ни не бывало в «Очень странных делах». 

15 главных игр в истории Hobby World  25
0
66717
Тест: Хорошо ли вы знаете игры Hobby World

Или для вас главная настольная игра — это всё ещё «Монополия»?

Hobby World
0
86140
15 главных игр в истории Hobby World 

21 год исполнился главному издательству настольных игр в России.

«Род мужской»: покаяние Алекса Гарленда за всех мужчин
0
100958
«Род мужской»: покаяние Алекса Гарленда за всех мужчин

Автор бичует самых страшных чудовищ: женоненавистников!

Видео: большой обзор Descent: Сказания тьмы + розыгрыш!
0
199027
Видео: большой обзор Descent: Сказания тьмы + розыгрыш!

Не упустите шанс выиграть коробищу!

Читаем книгу «Огненная кровь» Брайана Стейвли — продолжение «Клинков Императора»
0
144861
Читаем книгу «Огненная кровь» Брайана Стейвли — продолжение «Клинков Императора»

Первые две главы романа.

Какие новые сериалы выходят в июле 2022? Resident Evil, Paper Girls и документалка про студию Джорджа Лукаса
0
153430
Какие новые сериалы выходят в июле 2022? Resident Evil, Paper Girls и документалка про студию Джорджа Лукаса

А ещё — два сериала на околокосмическую тематику и сериал с Козловским.

Рафал Косик «Чётки» 
0
209626
Рафал Косик «Чётки». Иллюзорная Варшава грядущего

Польская антиутопия в духе Филипа Дика.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: