Согласно недавно опубликованным исследованиям, почти каждый десятый запрос к инструментам искусственного интеллекта со стороны сотрудников бизнеса раскрывает конфиденциальную информацию. Данные взяты из отчета Harmonic Security за последний квартал 2024 года и включают использование Copilot, ChatGPT, Google Gemini и Perplexity.
Деловые люди используют эти инструменты для самых разных задач. К ним относятся обобщение текстов, редактирование сообщений в блоге, написание сопроводительной документации. Harmonic обнаружила, что 8,5% этих запросов подвергают серьезному риску личную и деловую информацию, подвергая ее воздействию сервисов. Конкретно в цифрах. 45,8% запросов раскрывают информацию о клиенте, такую как платежные и идентификационные данные. 26,8% из них – данные сотрудников. Сюда входит информация о зарплате, личные данные, статус занятости и многое другое. В некоторых случаях соответствующая служба даже требуется для оценки эффективности работы сотрудника.
Кроме того, 14,9% рискованных запросов раскрывали юридическую и финансовую тайну, например, инвестиционные портфели, информацию о слияниях и поглощениях, данные о продажах. 6,9% раскрывают инсайдерскую информацию, связанную с безопасностью. Сюда входят результаты внутреннего тестирования безопасности, данные конфигурации сети и отчеты об инцидентах. Эти и другие данные могут помочь киберпреступникам получить информацию о потенциальных уязвимостях в сетях этих компаний, заявили в Harmonic. Другие конфиденциальные данные, которые раскрываются и ставят под угрозу безопасность, — это раскрытие ключей доступа и проприетарного исходного кода.
Harmonic подчеркивает один конкретный риск, вызывающий беспокойство. Многие сотрудники этих компаний пользуются бесплатными версиями популярных сервисов. Разница между ними и их корпоративными вариантами заключается в отсутствии особых функций безопасности. Ведущие компании, занимающиеся искусственным интеллектом, обучают эти модели на основе информации, подаваемой в инструменты. Таким образом, конфиденциальные данные могут быть воспроизведены по требованию и обнародованы.
Что касается наиболее часто используемых моделей, 63,8% этих сотрудников используют бесплатную версию ChatGPT. 58,6% используют Gemini, 75% Claude и 50,5% — Perplexity.
