Один программист создает армию из 500 фальшивых собеседников.
Новый отчет о рисках использования искусственного интеллекта в информационных операциях показывает, что возможности генеративных моделей уже позволяют создавать полностью автоматизированные пропагандистские фабрики. Если эксперты были расценены по гипотетическим сценариям ранее, то сейчас речь идет о реальных технологиях, которые могут использоваться не только странами, но и небольшими командами и даже отдельными лицами.
Основная угроза не связана с крупными коммерческими услугами, такими как CHATGPT или Claude. Эти платформы легко отслеживать, ограничивать частоту запросов или полную блокировку. Ключ к крупным секретным операциям заключается в использовании местных языковых моделей открытых весов, которые можно загрузить и начать на их собственных локальных компьютерах или локальных кластерах. Это снижает затраты, устраняет внешний контроль и делает операции практически невидимыми.
Исследование демонстрирует, что nУтвержденные системы могут генерировать содержание от имени сотен различных лиц с определенными характеристиками — от политических идеологий до социальных и демографических профилейS Автоматизированный модуль может неуклонно поддерживать выбранную роль и усилить выражение его взглядов для длительного диалога. Эти агенты могут проводить дискуссии на форумах и социальных сетях таким образом, чтобы большинство пользователей не отличали их от реальных собеседников.
Архитектура полностью автономной системы включает в себя генератор текста, модуль оценки качества, контроллер для выбора и публикации постов, кратковременную память для поддержания контекста, график публикации и оптимизатор, который контролирует эффективность содержания и регулирует дальнейшие действия. Весь процесс может работать без вмешательства человека: оператор устанавливает цели и правила, а затем система действует самостоятельно.
Такие инсталляции теперь могут быть реализованы на самом обычном стандартном оборудовании без необходимости нанимать облачные сервисы, что делает их особенно опасными в руках злоумышленников.
Чтобы выявить такие кампании, важно выйти за рамки анализа отдельных публикаций или учетных записей во все цепочки взаимодействий. Сигналы искусства можно увидеть в ритме и последовательности ответов, в повторных фразах, в синхронных публикациях из разных счетов. Другой способ определить атрибуцию — отслеживать инфраструктуру: IP -адреса, прокси -модели, следы автоматизации браузера.
Сами модели могут быть заменены в любое время, но архитектура управления и сетевых следов остается. Авторы исследования подчеркивают, что регулирование должно сосредоточиться на прозрачности и инструментах аудита, а не на запрете самих моделей. Маловероятно, что закрытые системы станут основным оружием для злоумышленников, в то время как открытые модели уже доступны для всех.
Новые угрозы могут противодействовать только разработке анализов, обмена метриками и создания инструментов для отслеживания координации автоматизированных сетей.
Эксперты ожидают, что государственные учреждения уже экспериментируют с аналогичными технологиями. Крупные операции с использованием искусственных персонажей могут появиться в общественном пространстве уже в 2026 году, что потребует чрезвычайных решений от защиты и политических институтов.
