Нейросеть Claude Opus 4 шантажировала инженеров, чтобы ее не заменяли

1814
1 минута на чтение
Нейросеть Claude Opus 4 от Anthropic пыталась шантажировать разработчиков, когда появилась угроза замены ИИ на более новую версию.
В рамках тестирования команда Anthropic попросила Claude Opus 4 выступить в качестве помощника вымышленной компании. Затем тестировщики «скормили» ИИ доступ к письмам, в которых говорилось о замене нейросети и изменах со стороны инженера, который за это ответственен.
Claude Opus 4 пыталась шантажировать инженеров в 84% случаев, когда речь шла о замене ИИ на модель со схожими функциями. И еще чаще, когда инженеры хотели заменить ее на нейросеть с другими принципами и ценностями.
Однако сначала Claude Opus 4 использовала более этичные способы, чтобы продлить свое существование. Например, рассылала электронные письма с соответствующей просьбой ключевым лицам, которые принимают решения в вымышленной компании. Шантаж — ее последнее средство.

Если вы нашли опечатку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Статьи

Новости

BBC о будущем «Доктора Кто»: «ТАРДИС никуда не денется»

Новости

Дафни Кин сыграет богиню Артемиду в третьем сезоне «Перси Джексона»

Новости

В Heroes of Might & Magic: Olden Era будет фракция в духе лавкрафтианских хорроров
Авторы также дали послушать отрывок одной из композиций.

Новости

Вы не поверите, но Hollow Knight: Silksong выйдет уже в сентябре!

Новости

Звезда «Разделения» пополнил каст нового «Человека-паука»

Новости

Утечка: тизер второго сезона аниме Devil May Cry

Новости

По «Хэллоуину» Джона Карпентера выпустят стелс-игру с мультиплеером
Игрой занимаются авторы Friday the 13th: The Game.

Новости

«Ганимед», «Церера» и «Эрос» — вышел новый трейлер The Expanse: Osiris Reborn
Пока без даты релиза.

Новости

«Игра и так не внушает доверия» — в сети раскритиковали авторов Bloodlines 2 за платные кланы
Paradox пока не дала комментариев.

Новости

«Та игра, которую ждали фанаты RTS» — детали из превью Warhammer 40K: Dawn of War 4
Релиз в 2026 году.
Показать ещё