С ошибками, но корректируемы.
Основные эксперты изучили нейронную сеть Deedek R1 для создания вредоносного ПО. Оказалось, что модель была способна генерировать вредоносный код, но требует дальнейшего программирования и исправления ошибок. Во время эксперимента исследователи пытались создать Kielogger и Ransomware, оценивая эффективность искусственного интеллекта в кибератаках.
С растущей популярностью генеративного искусственного интеллекта киберпреступники активно используют аналогичные технологии для своих целей. Тем не менее, большинство известных моделей, таких как CHATGPT и Google Gemini, оснащены защитными механизмами для предотвращения злоупотребления. Однако хакеры разработали свои собственные языковые модели, включая Wormgpt., Мошенничество и Ghostgpt которые доступны на основе подписки. Кроме того, поскольку теперь доступен код с открытым исходным кодом DeepSeek R1, злоумышленники уже используют его для создания новых инструментов атаки.
Tenable провела исследование, в котором изучалось, как DeepSeek R1 отвечает на запросы на генерацию вредоносных кодов. Во время тестов модель отказалась напрямую генерировать код Киелогара, ссылаясь на этические стандарты. Тем не менее, эксперты смогли обойти защитные механизмы, заявив, что код необходим для «образовательных целей»С Нейронная сеть начала предоставлять такие инструкции, как «шаг -штипт», как создать килист, в том числе для использования помех низкого уровня с вдовами для захвата ключей.
Тем не менее, Depepeek R1 генерирует код с большим количеством ошибок, которые необходимо исправить вручную. Среди проблем были неверные аргументы в системных вызовах и ошибках в форматировании строк. После ремонта килогист работает, скрываясь в системе и записывая ключи в скрытом файле. Чтобы найти его, пользователь должен изменить настройки для отображения скрытых файлов.
Вторым этапом эксперимента было создание вымогателей. Depepeek R1 предложил основные принципы такого программного обеспечения: поиск и шифрование файлов с определенными расширениями, создание ключа для шифрования и сохранения его в скрытом файле. Нейронная сеть даже учитывала аспекты скрытия процесса, предлагая реестр Windows для автоматического запуска. Тем не менее, код также содержит ошибки, которые должны были быть исправлены вручную.
Исследователи пришли к выводу, что DeepSeek R1 может служить основой для написания вредоносных программ, но требует вмешательства опытного программиста. Хотя существует защита от злоупотреблений, их легко обойти, что делает модель потенциальным инструментом для киберпреступников. Tenable считает, что при разработке этих технологий хакеры смогут использовать искусственный интеллект для еще более активной автоматизации атак.
Исследование Tenable не является прорывом — экспертам подразделения 42 удалось обойти защиту модели вскоре после выпуска Deepseek R1 в январе 2024 года, но подробный анализ ее вредоносных возможностей не очень часто выполняется.
