Исследователи безопасности из подразделения 42 компании Palo Alto Networks обнаружили, что большие языковые шаблоны (Магистр права) успешно генерируют практически неограниченные модификации вредоносных JavaScript код, делая его менее распознаваемым для антивирусного программного обеспечения. Например, искусственный интеллект создал более 10 000 копий кода, который в 88% случаев ускользал от обнаружения. Однако у этой медали есть обратная сторона.
«Хотя LLM сложно создать вредоносное ПО с нуля, преступники могут легко использовать его для перезаписи или сокрытия существующего вредоносного ПО, что затрудняет его обнаружение», — говорят исследователи Palo Alto Networks Unit 42 в новом отчете.
Преступники могут заставить LLM выполнять преобразования, которые выглядят гораздо более естественными, что затрудняет обнаружение такого программного обеспечения. Однако это не означает, что ситуацию оставили без внимания. Разработчики LLM реализуют меры безопасности, чтобы предотвратить использование моделей в деструктивных целях. Однако злоумышленники уже внедрили такие инструменты, как WormGPT, для автоматизации создания убедительных фишинговых писем и разработки новых вредоносных программ.
Исследователи из компании Palo Alto Networks Unit 42, которая, кстати, получила свое название от книги Дугласа Адамса «Автостопом по Галактике», где число 42 является ответом на «главный вопрос о жизни, вселенной и всем остальном», проверили, как работает LLM. как модификатор вредоносного ПО. Они обнаружили, что ИИ создал 10 000 вариантов кода, которые не смогли обнаружить такие инструменты, как «Невиновен, пока не доказана виновность» (IUPG) и PhishingJS. Более того, вредоносный код выглядел более естественно и на первый взгляд безобидно, чем модифицированный с помощью стандартного механизма obfuscator.io..
ИИ не оригинален в своих методах маскировки. Он использует множество стандартных приемов: переименование переменных, разбиение строк, вставку ненужного кода, удаление ненужных пробелов и даже полное переопределение кода.
Технология делает это 10 000 раз подряд, заставляя антивирусные программы считать новые версии безвредными. Исследователи отмечают, что это действительно тревожно. Однако этот механизм может быть полезен для обучения алгоритмов, способных обнаруживать ранее неизвестные модификации вредоносного кода. Рост числа нападений стимулирует развитие средств защиты. Один ИИ создает вирусы, а другой их ловит.
