Недавно опубликованный отчет Gartner призывает компании воздерживаться от использования так называемых «ИИ-браузеров».
«Настройки по умолчанию в браузерах с искусственным интеллектом отдают приоритет пользовательскому опыту над безопасностью», — пишет Gartner. В своем анализе Atlas от OpenAI и Comet от Perplexity компания Gartner указывает на два конкретных риска.
Они связаны с боковыми панелями ИИ и автономным выполнением действий от имени пользователя при входе в различные сервисы.
Лента обобщает, ищет, переводит и взаимодействует с веб-контентом с помощью сервисов искусственного интеллекта. При втором виде рисков или так называемых «агентских транзакциях» браузер самостоятельно перемещается, взаимодействует и выполняет заданные задачи на сайтах в веб-сессиях, в которых пользователь авторизовался в различных сервисах.
Gartner предупреждает, что боковые панели часто отправляют конфиденциальные данные в облако поставщика услуг ИИ. Сюда входит активный веб-контент, история просмотров и открытые вкладки. Это увеличивает риск открытого раскрытия информации. Если не были изменены различные настройки конфиденциальности и безопасности.
Прежде всего, пишут Gartner, компании должны проверить функционирование серверной структуры соответствующего сервиса. Наряду с этим им следует проводить соответствующее обучение своих сотрудников. Особенно, когда речь идет о особо конфиденциальной информации. «Объясните пользователям, что все, что они просматривают, потенциально может быть отправлено во внутреннюю инфраструктуру службы. Убедитесь, что у них нет вкладки с очень конфиденциальной информацией, доступной при использовании боковой панели AI».
Если ответственные лица в организации решат, что серверная часть этих браузеров небезопасна, им следует запретить своим сотрудникам загружать и использовать приложения. Опасности, связанные с этими браузерами, различны. Например, браузер с искусственным интеллектом может автономно посещать фишинговый сайт и предоставлять ему конфиденциальные данные. Они также подвержены различным атакам на гендерной принадлежности.
Например, неправильные действия, возникающие из-за ошибочной логики рассуждений агентов. И косвенно вводил подсказки от агента. Примером атаки такого типа является намеренное внедрение вредоносных инструкций в документ, электронное письмо или сайт, к которым агент должен получить доступ и обработать. В таких и подобных случаях агент непреднамеренно становится атакующей стороной. Другая опасность здесь — неправильные действия, вызванные шаблоном рассуждения модели. Проблема возникает при неправильном построении процесса рассуждения, или так называемой «цепи мыслей». Это касается неправильного вывода, неверного толкования инструкций и т. д. Это, в свою очередь, может привести к совершенно неверным результатам и ответам (так называемым «галлюцинациям»). Риск «каскадного отказа» также представляет опасность. Казалось бы, незначительное неправильное действие агента, за которым последовало множество более серьезных неправильных ответов и общий неправильный результат.
`, // — БАННЕР 2 (Новости Google) — `
`, // — БАННЕР 3 (Viber) — `
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
