3

Исследователи разрабатывают «красную кнопку» для отключения ИИ

6 июня 2016
Кот-император
06.06.2016
898
1 минута на чтение

Группа исследователей из лаборатории DeepMind (принадлежит Google) и Оксфордского университета начала разработку системы аварийного отключения самообучающихся алгоритмов. Об этом сообщает издание Business Insider.

На сегодняшний день компьютерные системы и самообучающиеся алгоритмы способны выполнять очень сложные задачи: от написания осмысленных текстов и диалогов в компьютерных играх до «просмотра» и воспроизведения кинофильмов. Однако концепция «сильного ИИ» — того, который способен понимать полученную информацию — пока далека от реальности. Но что? если ИИ, невзирая на незыблемые законы Азимова, начнёт вредить человеку? Как раз эту проблему и пытаются решить исследователи.

Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то может возникнуть ситуация, при которой оператор будет вынужден нажать на «большую красную кнопку», чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения.

Исследователи отмечают, что рано или поздно самообучающиеся алгоритмы смогут обнаружить какой-либо способ обойти штатный сигнал стоп-команды. Ключевая цель разработчиков как раз заключается в том, чтобы создать фреймворк, который не позволит ИИ найти такой способ. «Красная кнопка» также должна обеспечить гарантированное прерывание текущей деятельности алгоритма и обезопасить как самого робота, так и его окружение.

Вопросами о безопасности в сфере искусственного интеллекта задавались и ранее. Так, в 2015 году было создано открытое письмо, в котором знаменитые учёные, исследователи, бизнесмены и специалисты в области робототехники призывали отказаться от создания автономного вооружения. Под документом поставили свои подписи Илон Маск, Стивен Хокинг, Стив Возняк и многие-многие другие.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

Джонатан Френч «Серые ублюдки» 
0
17997
Джонатан Френч «Серые ублюдки»

Фэнтези для тех, кому надоели выхолощенные паладины и светлые маги.

Vampire: The Masquerade — Bloodlines
0
57221
Шесть гениальных игр, которые провалились

Иногда игры, переполненные свежими идеями и захватывающими сюжетами, таят в себе невидимый гейм-дизайнеру недостаток…

WandaVision
0
59901
Обзор «ВандаВижен»: Каким получился первый сериал киновселенной Marvel?

История о любви, мрачная драма и блестящая пародия на классические ситкомы.

Фантастиковедение: краткий курс
0
71408
Фантастиковедение: краткий курс

Разбираемся, как развивалась эта наука о фантастике в России с 1917 года по сегодняшний день.

Комикс-игра «Легенда о рыцарях»: приключение для начинающих ролевиков
0
114698
Комикс-игра «Легенда о рыцарях»: приключение для начинающих ролевиков

Отличный старт для тех, кто с любопытством спрашивает: «Да что такое эти ваши настольные ролевые игры?».

Амазонки: миф и реальная история 12
0
132665
Амазонки: реальные и мифические

Амазонки из древнегреческих мифов жили не в самой Греции, а к северу от Кавказа. Долгое время они считались вымыслом — пока археологи не доказали, что амазонки все-таки существовали.

Комикс: доминирующий вид
0
214854
Комикс: доминирующий вид

«Терпение, мой друг, терпение».

«Невидимый город»: как режиссёр «Ледникового периода» снял городское фэнтези про Бразилию
0
175554
«Невидимый город»: как режиссёр «Ледникового периода» снял городское фэнтези про Бразилию

Хотя это довольно типичный мистический детектив, он позволяет краем глаза заглянуть в не самую популярную мифологию.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: