3

Исследователи разрабатывают «красную кнопку» для отключения ИИ

6 июня 2016
Avatar photo
06.06.2016
1435
1 минута на чтение

Группа исследователей из лаборатории DeepMind (принадлежит Google) и Оксфордского университета начала разработку системы аварийного отключения самообучающихся алгоритмов. Об этом сообщает издание Business Insider.

На сегодняшний день компьютерные системы и самообучающиеся алгоритмы способны выполнять очень сложные задачи: от написания осмысленных текстов и диалогов в компьютерных играх до «просмотра» и воспроизведения кинофильмов. Однако концепция «сильного ИИ» — того, который способен понимать полученную информацию — пока далека от реальности. Но что? если ИИ, невзирая на незыблемые законы Азимова, начнёт вредить человеку? Как раз эту проблему и пытаются решить исследователи.

Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то может возникнуть ситуация, при которой оператор будет вынужден нажать на «большую красную кнопку», чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения.

Исследователи отмечают, что рано или поздно самообучающиеся алгоритмы смогут обнаружить какой-либо способ обойти штатный сигнал стоп-команды. Ключевая цель разработчиков как раз заключается в том, чтобы создать фреймворк, который не позволит ИИ найти такой способ. «Красная кнопка» также должна обеспечить гарантированное прерывание текущей деятельности алгоритма и обезопасить как самого робота, так и его окружение.

Вопросами о безопасности в сфере искусственного интеллекта задавались и ранее. Так, в 2015 году было создано открытое письмо, в котором знаменитые учёные, исследователи, бизнесмены и специалисты в области робототехники призывали отказаться от создания автономного вооружения. Под документом поставили свои подписи Илон Маск, Стивен Хокинг, Стив Возняк и многие-многие другие.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

Во что поиграть в октябре 2022 10
0
61697
Во что поиграть в октябре 2022

Лето отметилось затишьем в игровой индустрии. Но это время закончилось.

Мария Вой «Сиротки». Мрачные приключения шлюхи
0
66531
Мария Вой «Сиротки». Мрачные приключения шлюхи

Колоритное тёмное фэнтези в нетипичном сеттинге.

Новые сериалы октября 2022: ужасы, киберпанк и бензопила 11
0
131617
Новые сериалы октября 2022: ужасы, киберпанк и бензопила

А ещё — мультсериал по «Звёздным войнам», мистика от Гильермо Дель Торо и приквел «Сверхъестественного»

Права на фильмы и игры по «Властелину колец» выставят на аукцион — их оценивают в 2 миллиарда долларов 1
0
183110
Самые-самые… фантастические драгоценности!

Смотрите! Выбирайте! Тыкайте носом ваших мужчин! То есть нас…

Лицо со шрамом. Как снимали «Гарри Поттер и философский камень» 11
0
457996
Обсуждаем творчество Джоан Роулинг в 55-м выпуске Фантастического подкаста

Джоан, вы не правы, всё было совсем не так!

Почему стоит прочесть «Вселенную Боба» Денниса Тейлора? 3
0
214501
Почему стоит прочесть «Вселенную Боба» Денниса Тейлора?

Космическая фантастика о гике, который стал искусственным интеллектом и отправился исследовать космос.

Видения смерти. Читаем книгу «Там, где цветёт полынь» Ольги Птицевой
0
280083
Видения смерти. Читаем книгу «Там, где цветёт полынь» Ольги Птицевой

Переиздание романа о девушке, что видит чужие смерти.

Что почитать из фантастики? Книжные новинки октября 2022 11
0
288083
Что почитать из фантастики? Книжные новинки октября 2022

Фантастические книги октября: от космооперы Аластера Рейнольдса до артбука по Терри Пратчетту.

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: