3

Исследователи разрабатывают «красную кнопку» для отключения ИИ

6 июня 2016
06.06.2016
1344
1 минута на чтение

Группа исследователей из лаборатории DeepMind (принадлежит Google) и Оксфордского университета начала разработку системы аварийного отключения самообучающихся алгоритмов. Об этом сообщает издание Business Insider.

На сегодняшний день компьютерные системы и самообучающиеся алгоритмы способны выполнять очень сложные задачи: от написания осмысленных текстов и диалогов в компьютерных играх до «просмотра» и воспроизведения кинофильмов. Однако концепция «сильного ИИ» — того, который способен понимать полученную информацию — пока далека от реальности. Но что? если ИИ, невзирая на незыблемые законы Азимова, начнёт вредить человеку? Как раз эту проблему и пытаются решить исследователи.

Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то может возникнуть ситуация, при которой оператор будет вынужден нажать на «большую красную кнопку», чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения.

Исследователи отмечают, что рано или поздно самообучающиеся алгоритмы смогут обнаружить какой-либо способ обойти штатный сигнал стоп-команды. Ключевая цель разработчиков как раз заключается в том, чтобы создать фреймворк, который не позволит ИИ найти такой способ. «Красная кнопка» также должна обеспечить гарантированное прерывание текущей деятельности алгоритма и обезопасить как самого робота, так и его окружение.

Вопросами о безопасности в сфере искусственного интеллекта задавались и ранее. Так, в 2015 году было создано открытое письмо, в котором знаменитые учёные, исследователи, бизнесмены и специалисты в области робототехники призывали отказаться от создания автономного вооружения. Под документом поставили свои подписи Илон Маск, Стивен Хокинг, Стив Возняк и многие-многие другие.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

Фантастическое аниме весны 2022: что стоит смотреть? 5
0
12597
Фантастическое аниме весны 2022: что стоит смотреть?

Составляем впечатления по начальным эпизодам аниме весны 2022 года.

Комикс «Нимона»: Эскапизм, да не тот
0
22004
Комикс «Нимона»: Эскапизм, да не тот

По мере развития сюжета история становится сложнее и мрачнее.

«Атаке клонов» — 20 лет! Как «Звёздные войны» создавались в дикой спешке
0
65932
«Атаке клонов» — 20 лет! Как «Звёздные войны» создавались в дикой спешке

Хейден Кристенсен стал Энакином и как фильм чуть не назвали «Большое приключение Джа-Джа».

Видео: обзор настольной игры «Нечто»
0
142389
Видео: обзор настольной игры «Нечто»

Полукооператив по знаменитому ужастику Карпентера.

Фото чёрной дыры в центре галактики: как оно сделано и почему важно 8
0
120022
Фото чёрной дыры в центре галактики: как оно сделано и почему важно

Как именно было получено это историческое изображение, в чём его ценность и почему его пришлось ждать так долго?

Земекису — 70! История режиссёра «Назад в будущее» и «Кролика Роджера» 11
0
156411
Земекису — 70! Признаёмся в любви режиссёру «Назад в будущее»

Много личных историй и воспоминаний из детства!

Земекису — 70! История режиссёра «Назад в будущее» и «Кролика Роджера» 15
0
165853
Земекису — 70! История режиссёра «Назад в будущее» и «Кролика Роджера»

Как он превратился из неудачника в человека, сделавшего наше детство, в триумфатора «Оскара» и в безумного экспериментатора, тратящего миллионы на развитие компьютерной графики.

Виктор Диксен «Двор Тьмы» 
0
161802
Виктор Диксен «Двор Тьмы». Вампиры Короля-Солнце

Увлекательная трактовка вампирской темы.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: