3

Исследователи разрабатывают «красную кнопку» для отключения ИИ

6 июня 2016
Avatar photo
06.06.2016
1709
1 минута на чтение

Группа исследователей из лаборатории DeepMind (принадлежит Google) и Оксфордского университета начала разработку системы аварийного отключения самообучающихся алгоритмов. Об этом сообщает издание Business Insider.

На сегодняшний день компьютерные системы и самообучающиеся алгоритмы способны выполнять очень сложные задачи: от написания осмысленных текстов и диалогов в компьютерных играх до «просмотра» и воспроизведения кинофильмов. Однако концепция «сильного ИИ» — того, который способен понимать полученную информацию — пока далека от реальности. Но что? если ИИ, невзирая на незыблемые законы Азимова, начнёт вредить человеку? Как раз эту проблему и пытаются решить исследователи.

Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то может возникнуть ситуация, при которой оператор будет вынужден нажать на «большую красную кнопку», чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения.

Исследователи отмечают, что рано или поздно самообучающиеся алгоритмы смогут обнаружить какой-либо способ обойти штатный сигнал стоп-команды. Ключевая цель разработчиков как раз заключается в том, чтобы создать фреймворк, который не позволит ИИ найти такой способ. «Красная кнопка» также должна обеспечить гарантированное прерывание текущей деятельности алгоритма и обезопасить как самого робота, так и его окружение.

Вопросами о безопасности в сфере искусственного интеллекта задавались и ранее. Так, в 2015 году было создано открытое письмо, в котором знаменитые учёные, исследователи, бизнесмены и специалисты в области робототехники призывали отказаться от создания автономного вооружения. Под документом поставили свои подписи Илон Маск, Стивен Хокинг, Стив Возняк и многие-многие другие.

Статьи

Какие фильмы смотреть в июне 2023? Часть 2: Российские премьеры 8
0
33224
Какие фильмы смотреть в июне 2023? Часть 2: Российские премьеры

Эпичный эпос из Индии, хоррор-сенсация из Канады, детское фэнтези из Австралии и даже кое-что отечественное. 

«Человек-паук: Паутина вселенных»: почему Sony не верит в зрителей?
0
90200
«Человек-паук: Паутина вселенных»: почему Sony не верит в зрителей?

Чем может очаровать, а чем разочаровать новинка.

Клоны Крюгера: 5 фильмов, которые очень хотели своего Фредди (осторожно, обгорелые морды!)
0
143132
Клоны Крюгера: 5 фильмов, которые очень хотели своего Фредди (осторожно, обгорелые морды!)

О неудаче самого «отца Фредди» Уэса Крэйвена, о «Джуманджи» от мира ужастиков с Джоном Коннором в главной роли и о попытке превратить в нового Крюгера школьницу не самого тяжёлого поведения.

Что почитать из фантастики? Книжные новинки июня 2023 11
0
176018
Что почитать из фантастики? Книжные новинки июня 2023

Фантастические книги июня: от космических приключений до загадок города смерти.

Обзор Warhammer 40,000: Boltgun. На моего дедушку упал космодесантник
0
182938
Обзор Warhammer 40,000: Boltgun. На моего дедушку упал космодесантник

Лишь на миг я отвернулся – на него упал дроппод.

Ли Ёндо «Сердце нага». Магия, мечи и важная миссия избранного героя
0
242772
Ли Ёндо «Сердце нага». Магия, мечи и важная миссия избранного героя

Героическое фэнтези по-корейски.

Жизнь Ричарда Викторова: что мы узнали из книги «Тернии» 7
0
239750
Жизнь Ричарда Викторова: что мы узнали из книги «Тернии»

Как он завидовал «взрослым» режиссёрам, советовался с Тарковским и чуть не потерял ногу.

Какие фильмы смотреть в июне 2023? Часть 1: Большой Голливуд 1
0
323289
Какие фильмы смотреть в июне 2023? Часть 1: Большой Голливуд

Человек-паук и Флэш ломают мультивселенную, Индиана Джонс вновь борется с фашистами, а Уэс Андерсон встречает инопланетян.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: