Red Hat объявила о приобретении компании, занимающейся искусственным интеллектом, работающей в сфере кибербезопасности. Британский стартап Chatterbox Labs предлагает платформу под названием AIMI. Он обеспечивает защиту от хакерских атак как на готовые модели ИИ, такие как Claude и ChatGPT, так и на альтернативные алгоритмы. Предложение компании упаковано в контейнер Docker, к которому подключаются клиенты компании.
Благодаря приобретению Chatterbox Labs IBM расширяет предложения ИИ, входящие в состав популярного дистрибутива Linux. Red Hat теперь включает предустановленные библиотеки машинного обучения. Кроме того, OpenShift AI, их эквивалент Kubernetes, поддерживает инструмент с открытым исходным кодом под названием llm-d. Он может распределять мешающие рабочие нагрузки на несколько серверов.
AIMI удается обнаружить проблемы безопасности с помощью серии смоделированных атак на тестовую модель для выявления уязвимостей. Платформа также использует различные методы, например, «информационное отравление». В этом методе атаки набор данных, используемый для обучения модели, скомпрометирован ложной информацией или неверными данными.
AIMI также удалось зарегистрировать утечку внутренних данных, таких как информация об архитектуре модели. Кроме того, система защищает агентов ИИ, которые используют протокол MCP для выполнения действий в сторонних приложениях. Именно последнее побудило IBM приобрести Chatterbox Labs.
Компания предлагает специальный пакет продуктов под названием Red Hat AI. Он включает в себя одноименный дистрибутив Linux с оптимизацией AI, OpenShift AI и инструмент под названием Inference Server. Последняя версия пакета содержит поддержку протокола контекста модели (MCP). IBM будет использовать программное обеспечение Chatterbox Labs для защиты агентов, работающих на платформе. В будущем компания намерена выпускать AIMI под открытой лицензией.
`, // — БАННЕР 2 (Новости Google) — `
`, // — БАННЕР 3 (Viber) — `
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
