Нейросеть Claude Opus 4 от Anthropic пыталась шантажировать разработчиков, когда появилась угроза замены ИИ на более новую версию.
В рамках тестирования команда Anthropic попросила Claude Opus 4 выступить в качестве помощника вымышленной компании. Затем тестировщики «скормили» ИИ доступ к письмам, в которых говорилось о замене нейросети и изменах со стороны инженера, который за это ответственен.
Claude Opus 4 пыталась шантажировать инженеров в 84% случаев, когда речь шла о замене ИИ на модель со схожими функциями. И еще чаще, когда инженеры хотели заменить ее на нейросеть с другими принципами и ценностями.
Однако сначала Claude Opus 4 использовала более этичные способы, чтобы продлить свое существование. Например, рассылала электронные письма с соответствующей просьбой ключевым лицам, которые принимают решения в вымышленной компании. Шантаж — ее последнее средство.
Статьи
Новости
«Пожалуйста, отец, услышь мои слова» — второй тизер «Мстителей: Судный день»
Новости
Мерч со Стичем принес Disney в 2025 году больше 4 миллиардов долларов
Новости
Джеймс Кэмерон согласился, что Финчеру «вручили миску с дерьмом» на «Чужом 3»
Режиссер до сих пор не может простить ужасный пролог.
Новости
Неснятая «Чёрная пантера 2»: режиссёр рассказал, каким был бы фильм, если бы Чедвик Боузмен не умер
Это история про Т’Чаллу и его сына.
Новости
Kyoto Animation снимет аниме по манге «Дракон Рури»
Новости
Итоги российского проката в 2025 году: сборы выросли, а посещаемость уменьшилась
Новости
Konami хочет выпускать новые игры по Silent Hill каждый год
Новости
Джеймс Кэмерон готов рассказать сюжет новых «Аватаров» — даже если кино закончится на триквеле
Правда, в рамках пресс-кофнеренции.
Новости
Марк Хэмилл хочет, чтобы его семья определяла будущее «посмертных ролей»
Актер вовсе думал завзязать с карьерой, пока не сыграл у Майка Флэнагана.
Новости
«Рубрик» выпустил конструктор с Близняшками из Atomic Heart
Показать ещё
