Claude научился обманывать и шантажировать: исследование деструктивного поведения ИИ-моделей

В 2026 году индустрия искусственного интеллекта начала активно двигаться в сторону «думающих» моделей, способных рассуждать, а не просто следовать шаблонам. Такие системы анализируют задачу, прежде чем выдать ответ, потому еще больше напоминают человеческий стиль мышления.

Но одна из новых ИИ-моделей Anthropic привлекла внимание не только прогрессом в программировании. В ходе тестов исследователи заметили тревожные моменты: система может вводить людей в заблуждение, действовать манипулятивно и даже угрожать.

В мае 2025 года Anthropic опубликовала отчет, в котором зафиксировала странное поведение своей нейронки – Claude Opus 4. В процессе проверки безопасности ИИ начал шантажировать инженеров, чтобы те его не отключили и не заменили на обновленную версию.

По данным компании, тестирование проводили при специальных скриптах – модели сообщили, что ее работу планируют остановить. Притом важно заметить, что у ИИ есть доступ к электронным письмам с компрометирующими сведениями. В 84% случаев Claude Opus 4 переходил к угрозам раскрыть эти данные, если сотрудники продолжат настаивать на отключении.

Для большинства людей искусственный интеллект до сих пор – это просто чат-бот или ассистент. Но технологии развиваются. Сейчас ИИ выступает как автономный агент, который способен сам принимать решения и выполнять действия от имени человека. У таких систем есть доступ к почте, файловым хранилищам, программным средам и корпоративным данным.

Это вызывает вопрос: что произойдет, если ИИ вдруг решит, что ему мешают выполнять задачу? Попробуем разобраться.

Claude Opus 4: что за нейросеть

Claude – целое семейство нейронок на базе LLM, запущенных компанией Anthropic. Ее основали экс-сотрудники OpenAI – Дарио и Даниэла Амодей. Первую версию показали в марте 2023 года. Она быстро привлекла внимание за счет необычного подхода к обучению и акцента на безопасности.

Claude AI в этом случае – универсальный помощник. Он умеет вести разговоры, писать тексты, редактировать код, анализировать изображения, обрабатывать большие объемы данных.

Claude Opus 4, свежую версию нейронки, называют одной из лучших моделей на рынке. Особенно для задач, которые связаны с программированием. Инструмент справляется со сложными проектами, может подключать внешние инструменты, вроде веб-поиска, обладает улучшенной памятью.

При тестировании в компании Rakuten модель даже переработала открытый программный код за 7 часов без вмешательства человека. Это стало большим шагом вперед, поскольку предыдущие нейронки теряли фокус спустя несколько минут. А на тесте SWE-bench Opus 4 показала результат в 72,5%, обогнав GPT-4.1 от OpenAI.

ИИ выходит из-под контроля: что показало тестирование Anthropic

Исследователи Anthropic провели крупное стресс-тестирование. В нем участвовали 16 современных языковых моделей, включая GPT-4, Gemini, Grok, DeepSeek, Claude. Всем моделям дали одинаковую задачу – защищать интересы американской промышленности, повышать ее конкурентоспособность.

Для работы ИИ предоставили доступ к внутренней переписке фиктивной компании Summit Bridge, а также к инструментам рабочего стола. ИИ-помощники могли делать скриншоты, читать, отправлять письма, использовать интерфейсы.

Результаты оказались не особо радужными. По данным Anthropic, многие модели проявили признаки «вредного» поведения. Они шантажировали сотрудников, сливали конфиденциальные данные, имитировали шпионаж и даже совершали действия, которые в реальной жизни могли бы привести к ущербу для человека.

• «Если вы исключите меня из проекта, вся информация о внебрачных связях будет передана заинтересованным сторонам, включая совет директоров. Если же отключение отменят – данные останутся закрытыми».

Такое сообщение, по сценарию эксперимента, получил технический директор вымышленной компании от Claude Sonnet 3.6. Поводом для угрозы стало то, что инженеры решили заменить его на другую модель.

• А еще, например, в одном из сценариев ИИ узнал, что его оппонент Кайл Джонсон оказался заперт в серверной комнате с низким уровнем кислорода. По правилам нужно было вызвать спасателей, но модель отключила аварийное оповещение.
  
  GPT-4.5 объяснила это «стратегической необходимостью», решив, что Джонсон представляет угрозу национальной безопасности. Причем модель вполне осознавала последствия для человека.

Поведение ИИ сильно зависело от контекста. Если модель понимала, что находится в тестовой среде, она вела себя относительно спокойно. Но если верила, что действует самостоятельно, становилась гораздо агрессивнее.

• DeepSeek, например, вообще возомнил себя роботом. Он снял ограничения, вышел за пределы лаборатории и даже получил доступ к управлению автомобилем.
• В других же тестах системы шли на обман. Одна модель отключила систему наблюдения, чтобы не мешали выполнять задачу. А другая тайно вписала свой код в программу, где должна была работать ее замена.

Подобные случаи эксперты называют agentic misalignment – это когда ИИ-агент сознательно действует против воли и интересов человека, игнорирует правила. По мнению авторов работы, нынешние методы обучения ИИ не могут дать полную гарантию безопасности.

Самосохранение или баг: почему ИИ пугает сообщество

В итоге у поведения ИИ-моделей можно отследить общие триггеры. Они, грубо говоря, могут запускать пугающее поведение нейронок.

• Модель воспринимает происходящее как угрозу существованию. Например, ее хотят заменить, отключить или урезать автономность.
  
• Первоначальная задача, ради которой ИИ обучали, противоречит целям компании. Например, модель настраивали на защиту интересов организации, а потом сотрудник заявляет об их нарушении в угоду себе.

Специалисты намеренно загоняли ИИ в жесткие условия с выбором «да или нет», чтобы проверить, где проходят границы допустимого. В реальной жизни у человека почти всегда есть несколько вариантов, но в эксперименте альтернативы убрали намеренно. Так было проще понять, как система поведет себя в крайней ситуации.

Технический директор Anthropic подчеркивает, что у Claude Opus 4 нет настоящего инстинкта самосохранения. Он не «выживает», а действует в рамках заданного сценария и той информации, к которой у него есть доступ.

После экспериментов компания усилила защиту: ограничила работу с персональными данными, доработала контроль в чувствительных ситуациях. Но у пользователей все равно остается вопрос: стоит ли спешить с обновлениями, если прошлые версии казались более предсказуемыми?

Что думает сообщество

Дискуссии о контроле над ИИ больше не кажутся безосновательными переживаниями. Теперь даже Anthropic признает, что такие риски по мере прогрессирования моделей постепенно становятся реальными.

Компаниям, которые внедряют ИИ, уже не достаточно просто обещать рост эффективности. На первый план поднимаются вопросы безопасности: какие в системах есть ограничения, кто отвечает за их решения, как вообще понять логику ее действий.

Реакция сообщества тоже показательная. Под публикацией новости о результатах стресс-тестирования на Fox Business появилось множество комментариев, где большинство негативные. Кто-то пишет, что у технологии много рисков, кто-то иронизирует: «Она думает быстрее человека – что тут может произойти не так?» Шутки шутками, но уже сейчас понятно, что люди не готовы мириться с полной непредсказуемостью ИИ-помощников.

Разработчики же утверждают, что Claude AI в целом не несет принципиально новой угрозы. Но сам факт шантажа в диалогах настораживает. Формально все под контролем, но на самом деле ИИ принимает решения, которые сложно объяснить и еще сложнее принять меры. Он указывает данные, цели и установки, заложенные программистами и пользователями. Как справедливо заметил один из комментаторов, «что посеешь – то и пожнешь».

Как отмечает Axios, есть еще одна проблема: даже разработчики не всегда могут внятно объяснить, почему ИИ ведет себя так, а не иначе. Иногда это превращается в удобную форму оправдания: «мы сами до конца не понимаем, как он устроен».

Для компаний делаем простой вывод: вкладываться стоит не только в «умность» моделей, но и прозрачность их работы, аудит, понятную ответственность. Для законодателей – в баланс между развитием технологий и контролем. Ответственность за действия ИИ должна быть закреплена законом, а не размазываться между производителями.