Нейронные сети заподозрили в наличии сознания

Руководитель исследовательской группы OpenAI Илья Суцкевер 10 февраля рассказал, что, возможно, «современные крупные нейронные сети могут быть в какой-то степени сознательными».Исследователи по всему миру сходятся во мнении, что за последнее десятилетие технология нейронных сетей совершила огромный скачок, но все еще далека от человеческого интеллекта и неспособна сознательно воспринимать окружающий мир.Не исключено, что Суцкевер просто пошутил, но будучи ведущим исследователем одной из передовых групп в мире, работающих над ИИ, он вполне может заглядывать вперед.В документальном фильме iHuman он заявил, что общий искусственный интеллект (ОИИ) «решит все существующие на сегодняшний день проблемы». А затем добавил, что такая технология также может представлять собой «потенциал для создания бесконечно стабильной диктатуры».В ответ на заявления Суцкевера многие исследователи искусственного интеллекта возмутились, поскольку это может навредить репутации машинного обучения, и сошлись во мнении, что это не более чем маркетинговый трюк OpenAI.  Однако Тамай Бесироглу, программист из Массачусетского технологического института (МТИ), высказался в поддержку Суцкевера:

Удручает, что столько заметных специалистов в машинном обучении высмеивают эту идею. Я уже не так уверен в способности этой области серьезно заняться некоторыми глубокими, странными и важными вопросами, с которыми они непременно столкнутся в ближайшие десятилетия.

Бесироглу также указал на препринт исследования, в котором он совместно с несколькими коллегами обнаружил, что модели машинного обучения по сути вдвое повышали свой интеллект каждые шесть месяцев с 2010 года.Также Бесироглу провел линию на графике прогресса, на которой, по его словам, модели могут стать «несколько сознательными».

Несмотря на постоянный страх перед сознательными компьютерами, исследователи неоднократно критиковали его, отмечая, что пока еще очень рано об этом беспокоиться.Кроме того, OpenAI обрела весьма спорную славу благодаря созданию GPT-3 – продвинутого алгоритма генерирования текстов. Некоторые пользователи использовали его весьма нетривиальными способами, что повлекло за собой жаркие дискуссии.