Google составили свои пять законов робототехники

3838
2 минуты на чтение
Компании Google и OpenAI совместно с Калифорнийским университетом и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.

В своей статье авторы решили рассматривать не гипотетическое «восстание машин», о котором так любят говорить фантасты, а потенциальные опасности, связанные с самообучением машин.

Вот пять проблем, которые они сформулировали:

  • избегание нежелательных побочных эффектов (робот-уборщик может разбить базу, если это ускорит уборку комнаты);
  • избегание жульничества (робот может попросту прикрыть мусор, а не убрать его);
  • гибкая потребность в надзоре (если робот-уборщик может посоветоваться с человеком при выполнении той или иной задачи, то он не должен надоедать вопросами);
  • безопасное обучение (уборщику не стоит перебирать всевозможные варианты, например, не стоит экспериментировать и протирать розетку мокрой тряпкой);
  • устойчивость к смене деятельности (уборка в цехе металлообработки и химической лаборатории принципиально отличается).

Исследователи предлагают несколько способов бороться с приведёнными проблемами: ввести человеческий надзор, использовать симуляции для обучения и ограничить пространство для деятельности роботов. Однако специалисты считают, что ни одно из существующих на сегодняшний день решений не является окончательным и всеобъемлющим.

Если вы нашли опечатку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Статьи

Новости

Слух: Lucasfilm полностью перезапустит «Индиану Джонса»

Новости

Первый трейлер аниме «Человек-бензопила: История Рэдзэ»
Премьера ожидается 29 октября.

Новости

Астрономы обнаружили планету-самоубийцу
Она по массе сравнима с Юпитером, но постоянная бомбардировка звездным излучением стремительно разрушает ее.

Новости

6 июля пройдет праздничная игротека Hobby World

Новости

Дэвид Коренсвет просил советов у прошлых исполнителей роли Супермена

Новости

Нил Дракманн и сценаристка The Last of Us 2 не будут работать над 3 сезоном сериала
Дракманн вновь посвятит себя играм.

Новости

СМИ: Microsoft отменила Perfect Dark, Everwild и MMORPG от авторов The Elder Scrolls Online
Arkane Lyon («Блэйд») и MachineGames («Индиана Джонс») не затронут увольнения.

Новости

«Это происходит вновь» — первый тизер третьего сезона НФ-сериала «Вторжение»

Новости

В финале «Железного сердца» появился злодей, о котором говорят с выхода «ВандыВижна»

Новости

Слив: первый тизер «Одиссеи» Кристофера Нолана
Показать ещё