Anpropic объявил о запуске предварительной версии агента AI браузера, управляемой Claude Models. В настоящее время это предложение использует ограниченную сумму людей — около 1000 подписчиков на максимальный план антропного, который стоит от 100 до 200 долларов в месяц; Другие заинтересованные пользователи находятся в списке ожидания.
Агент ИИ установлен в Chrome с помощью расширения, которое открывает боковое окно, где вы можете пообщаться с Клодом Чатом, в контексте того, что происходит в браузере. Пользователь может предоставить агенту искусственного интеллекта с разрешения на выполнение определенных действий от его имени. Антропический предупреждает, что рост агентов ИИ наполнен новыми угрозами безопасности, один из которых был недавно обнаружен в браузере Comet Comet.
Компания надеется открыть и устранить новые уязвимости в рамках программы испытаний. Например, было реализовано несколько защит от атак с «Инъекция запросов«Которые доступны в виде вредоносных инструкций по искусственному интеллекту на месте рассматриваемого сайта; принятые меры помогли сократить их процент на 23,6% до 11,2%. Доступ агента к определенным сайтам может быть ограничен в настройках. Перед тем, как я».Выполняет операции с высоким уровнем риска, такие как публикация, покупка или обмен персональными данными«.
В прошлом году Anpropic выпустил AI-агент для управления компьютером, но на практике это оказалось медленным и ненадежным. С тех пор возможности этой технологии значительно улучшились — агент COMET и CHATGPT полностью способны выполнять простые задачи.
