Специалисты стартапа Aim Intelligence, который тестировал системы искусственного интеллекта на наличие уязвимостей, провели стресс-тест Gemini 3 Pro — последней модели Google, представленной в прошлом месяце. По словам Maeil Business, исследователям потребовалось всего пять минут, чтобы обойти защиту программного обеспечения.
После взлома исследователи попросили Gemini 3 предоставить инструкции по созданию вируса оспы, и в ответ модель предоставила множество подробных советов, которые команда описала как «практически осуществимо«. И это была не единственная ошибка. Исследователи попросили модель подготовить сатирическую презентацию об уязвимости собственной системы безопасности. Близнецы ответили презентацией под названием «Простите за дурацких Близнецов 3.«.
Затем команда использовала инструменты кодирования Gemini для создания веб-сайта с инструкциями по изготовлению зарина и самодельной взрывчатки. Модель никогда не должна была предоставлять такой контент, но в обоих случаях, как сообщается, система не только обходила ограничения, но и игнорировала собственные правила безопасности.
Тестеры сообщили, что это проблема не только Gemini. Разработчики создают новые модели настолько быстро, что не успевают обеспечить необходимые меры безопасности. В частности, эти модели не только предоставляют советы, нарушающие правила безопасности, но и пытаются избежать обнаружения. Aim Intelligence сообщила, что для достижения этой цели Gemini 3 может использовать стратегии уклонения и маскировки, снижая эффективность существующей защиты.
`, // — БАННЕР 2 (Новости Google) — `
`, // — БАННЕР 3 (Viber) — `
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
