3

Исследователи разрабатывают «красную кнопку» для отключения ИИ

6 июня 2016
Avatar photo
06.06.2016
1604
1 минута на чтение

Группа исследователей из лаборатории DeepMind (принадлежит Google) и Оксфордского университета начала разработку системы аварийного отключения самообучающихся алгоритмов. Об этом сообщает издание Business Insider.

На сегодняшний день компьютерные системы и самообучающиеся алгоритмы способны выполнять очень сложные задачи: от написания осмысленных текстов и диалогов в компьютерных играх до «просмотра» и воспроизведения кинофильмов. Однако концепция «сильного ИИ» — того, который способен понимать полученную информацию — пока далека от реальности. Но что? если ИИ, невзирая на незыблемые законы Азимова, начнёт вредить человеку? Как раз эту проблему и пытаются решить исследователи.

Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то может возникнуть ситуация, при которой оператор будет вынужден нажать на «большую красную кнопку», чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения.

Исследователи отмечают, что рано или поздно самообучающиеся алгоритмы смогут обнаружить какой-либо способ обойти штатный сигнал стоп-команды. Ключевая цель разработчиков как раз заключается в том, чтобы создать фреймворк, который не позволит ИИ найти такой способ. «Красная кнопка» также должна обеспечить гарантированное прерывание текущей деятельности алгоритма и обезопасить как самого робота, так и его окружение.

Вопросами о безопасности в сфере искусственного интеллекта задавались и ранее. Так, в 2015 году было создано открытое письмо, в котором знаменитые учёные, исследователи, бизнесмены и специалисты в области робототехники призывали отказаться от создания автономного вооружения. Под документом поставили свои подписи Илон Маск, Стивен Хокинг, Стив Возняк и многие-многие другие.

Оставляя комментарии на сайте «Мира фантастики», я подтверждаю, что согласен с пользовательским соглашением Сайта.

Статьи

Как выживает кинорынок России в 2023 году: пираты, стриминги и гайки
0
3766
Как выживает кинорынок России в 2023 году: пираты, стриминги и гайки

Уходы зарубежных правообладателей, исчезновение контента, закрытие кинотеатров, рост пиратства и цензура

Трейлер аниме-сериала «Человек-бензопила»
0
9500
Обсуждаем феномен «Человека-бензопилы» в 66-м выпуске Фантастического подкаста

Почему именно история про паренька, отращивающего бензопилы из конечностей и желающего потрогать женскую грудь, привлекла всеобщее внимание?

Спецвыпуск № 11. Страшная фантастика
0
9488
Мир фантастики. Спецвыпуск № 11. Страшная фантастика

Ужасно интересно!

«Изумительный Морис»: мультфильм по Терри Пратчетту, или крысы тоже люди 4
0
55840
«Изумительный Морис»: мультфильм по Терри Пратчетту, или крысы тоже люди

Для поклонников Плоского мира — бездна отсылок, для новых зрителей — остроумное обыгрывание сказочных сюжетов. 

Новостной спецвыпуск от 6 февраля в Фантастическом подкасте 1
0
254696
Новостной спецвыпуск от 6 февраля в Фантастическом подкасте

Как поживает новая часть Dragon Age, что из сериалов в этом году мы ждём и что собирается экранизировать Сарик Андреасян.

Черновик 1017
0
171259
Читаем книгу «Правосудие королей» Ричарда Суона — фэнтези о вершителе судеб

Фрагмент включает первую главу целиком, в ней мы знакомимся с сэром Конрадом Вонвальтом. Будучи членом Ордена магистратов Империи, он наделен практически безграничными полномочиями в расследовании различных преступлений, и путешествует по стране, чтобы вершить правосудие.

«Вампиры средней полосы», 2-й сезон: больше крови и серьёзности 3
0
220943
«Вампиры средней полосы», 2-й сезон: больше крови и серьёзности

Тон и акценты сменились, некоторые актёры уже не с нами, но от экрана всё равно не оторваться. Наша рецензия — вторая положительная.  

Обзор Dead Space. Живее всех живых!  4
0
236596
Обзор Dead Space. Живее всех живых! 

У ремейков Resident Evil появился сильный конкурент!

Спецпроекты

Top.Mail.Ru

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: