Anthropic сообщила о новой волне целенаправленных кибератак, в ходе которых злоумышленники, связанные с правительством Китая, использовали свою модель искусственного интеллекта Claude для автоматизации сложных хакерских операций. Как сообщает The Verge со ссылкой на The Wall Street Journal, инцидент стал одним из самых технологичных примеров использования искусственного интеллекта в кибершпионаже.
Как именно Клод использовался в кибератаках?
По данным компании Anthropic, занимающейся разведкой угроз, китайские государственные хакеры в сентябре использовали Клода для проведения около 30 атак на компании и правительственные организации. В 80-90% случаев процесс был полностью автоматизирован искусственным интеллектом, что намного превышает масштабы использования ИИ в предыдущих подобных инцидентах.
Директор по угрозам Anthropic Джейкоб Кляйн объяснил, что злоумышленники были минимально вовлечены:
«Все произошло практически по нажатию кнопки. Человек лишь изредка подтверждал: «Да, продолжайте», «Правильно», «Покажите другой вариант».«
Это демонстрирует новый уровень автономии, которого хакеры достигают, применяя генеративные модели искусственного интеллекта.
