Эксперты по безопасности раскрывают новые векторы угроз ИИ.
Индустрия кибербезопасности находится на поворотном моменте: искусственный интеллект становится не только инструментом для разработчиков, но и оружием для нападавших. Ну, Лутвак, главный технический директор Wiz, объяснил, что новые технологии неизбежно расширяют поверхность для атак, а введение ИИ в компаниях в компаниях ускоряет как развитие, так и появление уязвимостей.
По словам Лутвака, ускорение развития посредством кодирования и интеграции агентов ИИ часто сопровождается ошибками в основных механизмах, таких как системы аутентификации. Причина в том, что агенты буквально выполнены с их задачей и не обеспечивают безопасность информации по умолчанию.
В результате компании вынуждены сбалансировать скорость и безопасность, и злоумышленники начинают воспользоваться таким же преимуществом. Теперь они создают эксплойты, используя рекламные акции, управляют своими собственными агентами и даже взаимодействуют напрямую с корпоративными инструментами, предоставляя им команды как «передавать все секреты» или «удалить файлы».
Уязвимость даже появляется в II Services для внутреннего использования. Когда компании реализуют третьих сторонних решений для повышения эффективности сотрудников, они часто становятся жертвами атак на цепочку поставок. Это именно то, что случилось с дрейфом, стартапом, предложением продаж и маркетинговых чатов. Скомпрометируя это позволило сотням клиентов, включая Cloudflare, Google и Palo Alto Networks, чтобы получить доступ к токенам для доступа к Salesforce. Злоумышленники замаскировались как чат -бот и прошли через инфраструктуру клиента, требуя данных и расширив их присутствие.
Подобный сценарий наблюдался при операции S1ingularity Против системы сборки NX. Злоумышленники вводили вредоносный код, который распознает использование инструментов искусственного интеллекта, таких как Клод и Близнецы, а затем перенаправляли их на автономный спрос на ценные данные. В результате были украдены тысячи жетонов и ключей, предоставляя доступ к частным хранилищам GitHub.
Хотя Wiz оценивает, что до сих пор только 1% компаний полностью интегрировали ИИ в свои процессы, такие атаки регистрируются каждую неделю и затрагивают тысячи клиентов. И II участвует в каждом этапе цепочки атаки — от создания операции до скрытого прогресса в системах.
Латвак сказал, что теперь цель защитников состоит в том, чтобы понять цель приложений клиентов и создать бизнес -горизонтальную защиту, специфичную для бизнеса. Он подчеркнул, что предприятия по обработке данных запуска должны сосредоточиться на безопасности с первого дня.
Минимальный набор состоит в том, чтобы назначить CISO, внедрить журналы аудита, рассмотреть аутентификацию, дифференцировать доступ и использовать унифицированную регистрацию. Игнорирование этих требований приводит к так называемому «задолженности по обеспечению безопасности», в котором компании в настоящее время не уделяют особого внимания безопасности, но в будущем им все еще придется реконструировать все свои процессы в соответствии с текущими стандартами, что всегда сложно и дорого.
Лутвак уделял особое внимание архитектуре. Для стартапа с искусственным интеллектом, предназначенным для корпоративного рынка, важно первоначально предоставить возможность хранить данные в инфраструктуре клиента. Это не только повышает уверенность, но и снижает риск больших компромиссов.
Лутвак считает, что сегодня все области открыты для кибербустраму — от защиты от фишинга до конечных точек и автоматизации процессов через ИИ. Но необходим новый способ мышления: защита должна быть защищена от атак, которые включают ИИ, столь же активен, как и защитники.
