Хакер убедил искусственного чат-бота Клода украсть 150 ГБ правительственных данных

Неизвестный злоумышленник использовал чат-бота Claude AI от Anthropic, чтобы атаковать правительственные учреждения Мексики и в конечном итоге украсть около 150 ГБ данных. По версии следствия, в сеть могла попасть налоговая информация, учетные данные сотрудников и другая официальная информация. Об инциденте сообщило информационное агентство Bloobmerg.

По данным компании кибербезопасности Gambit Security, атаки начались в декабре и продолжались около месяца. Хакер использовал Клода для поиска уязвимостей в правительственных сетях, написания скриптов для их эксплуатации и рассмотрения возможности автоматизации кражи данных.

Изначально чат-бот отказывался выполнять вредоносные запросы, однако злоумышленнику удалось обойти встроенные ограничения, используя специальную формулировку. В результате Клод подготовил тысячи подробных отчетов с готовыми к реализации планами. В их число входили конкретные внутренние цели и учетные данные, которые стоило использовать для дальнейшего развития атаки.

Anthropic заявила, что проверила информацию, приостановила деятельность и заблокировала все связанные учетные записи. Представитель добавил, что новый Claude Opus 4.6 получил дополнительные инструменты, которые должны предотвратить подобные злоупотребления.

Сообщается, что параллельно хакер также использовал ChatGPT OpenAI для сбора информации о том, как перемещаться по компьютерным сетям, какие учетные данные необходимы для доступа к системам и как снизить риск обнаружения. OpenAI утверждает, что обнаружила попытки нарушения условий использования сервиса, а инструменты отказались выполнять такие запросы.

Личность нападавшего пока не установлена. Атаки не были связаны с конкретной группой, но Gambit Security предположила, что за ними может стоять иностранное государство. Пока неясно, для чего они планируют использовать украденные данные.

Национальное агентство цифровых технологий Мексики публично не прокомментировало инцидент, ограничившись заявлением о приоритете кибербезопасности. В ходе собственного анализа специалисты Gambit Security обнаружили как минимум 20 уязвимостей в системах искусственного интеллекта, которые не были обнародованы. Это не первый раз, когда Клод участвует в крупных нападениях. В прошлом году хакерам из Китая удалось задействовать систему в попытках проникнуть в десятки объектов по всему миру, некоторые из которых оказались успешными.