3

Исследователи разрабатывают «красную кнопку» для отключения ИИ

6 июня 2016
Кот-император
06.06.2016
114
1 минута на чтение

Группа исследователей из лаборатории DeepMind (принадлежит Google) и Оксфордского университета начала разработку системы аварийного отключения самообучающихся алгоритмов. Об этом сообщает издание Business Insider.

На сегодняшний день компьютерные системы и самообучающиеся алгоритмы способны выполнять очень сложные задачи: от написания осмысленных текстов и диалогов в компьютерных играх до «просмотра» и воспроизведения кинофильмов. Однако концепция «сильного ИИ» — того, который способен понимать полученную информацию — пока далека от реальности. Но что? если ИИ, невзирая на незыблемые законы Азимова, начнёт вредить человеку? Как раз эту проблему и пытаются решить исследователи.

Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то может возникнуть ситуация, при которой оператор будет вынужден нажать на «большую красную кнопку», чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения.

Исследователи отмечают, что рано или поздно самообучающиеся алгоритмы смогут обнаружить какой-либо способ обойти штатный сигнал стоп-команды. Ключевая цель разработчиков как раз заключается в том, чтобы создать фреймворк, который не позволит ИИ найти такой способ. «Красная кнопка» также должна обеспечить гарантированное прерывание текущей деятельности алгоритма и обезопасить как самого робота, так и его окружение.

Вопросами о безопасности в сфере искусственного интеллекта задавались и ранее. Так, в 2015 году было создано открытое письмо, в котором знаменитые учёные, исследователи, бизнесмены и специалисты в области робототехники призывали отказаться от создания автономного вооружения. Под документом поставили свои подписи Илон Маск, Стивен Хокинг, Стив Возняк и многие-многие другие.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

«Трансметрополитен»: мир грёбаного Спайдера Иерусалима 16
0
10434
«Трансметрополитен»: мир грёбаного Спайдера Иерусалима

Этот циничный комикс о гонзо-журналисте ещё лучше, чем вы ожидаете.

Варвара Селина, "Последняя нимфа"
0
43969
Варвара Селина «Последняя нимфа»

Если выживаешь в бункере, где кончаются еда и вода, кажется, что надежды совсем нет. Но так хочется мечтать о будущем! О семье, о детях, о новой судьбе для себя и своих потомков… только будет ли она, эта судьба?

Звёздные Войны. Трилогия сиквелов
0
66476
Disney отменит новую трилогию «Звёздных войн»? Опровергаем слухи

Разбираемся, что за гражданская война патриархата и социальной повестки якобы развернулась в Lucasfilm.

Читаем фэнтези: Марцин Гузек «Застава на окраине Империи. Командория 54»
0
83003
Марцин А. Гузек «Застава на окраине Империи. Командория 54». Темное фэнтези о рыцарях-легионерах

Тёмное фэнтези, написанное в лучших традициях жанра.

Игры по Лавкрафту: выбор Николая Пегасова 10
0
140488
Игры по Лавкрафту: выбор Николая Пегасова

Основатель «Мира фантастики» рекомендует свои любимые игры про Ктулху и Некрономикон.

Читаем книгу: Ребекка Куанг «Республика Дракон» — фэнтези об опиумной войне
0
149186
Читаем книгу: Ребекка Куанг «Республика Дракон» — фэнтези об опиумной войне

Вторая часть цикла «Опиумные войны», фэнтези о вымышленном мире, основанном на китайской культуре.

Tales from the Loop: истории о детях и роботах. Часть 2: основные произведения
0
249803
Tales from the Loop: истории о детях и роботах. Часть 2: основные произведения

О чём рассказывается в артбуке и книге правил НРИ и каким получился сериал от Amazon.

Как звучал шлем Бобы Фетта? Звуковой дизайнер «Звёздных войн» рассказал о работе над «Империей» 1
0
212064
Фирменный звук Бобы Фетта, еноты и обстрел из пушек: звуковой дизайнер «Звёздных войн» рассказал о работе над классикой

В ход пошло всё, вплоть до скрипучего мусорного бака!

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: