Современные инструменты компьютерного взлома на базе искусственного интеллекта стали настолько совершенными, что почти превзошли настоящих хакеров. Таковы результаты эксперимента, проведенного исследователями Стэнфордского университета, пишет The Wall Street Journal.
Почти весь прошлый год группа ученых из Стэнфорда разрабатывала чат-бота с искусственным интеллектом Artemis, предназначенного для хакерских операций. Он сканирует сеть на наличие возможных ошибок (уязвимости программного обеспечения), а затем находит способы использовать эти уязвимости для проникновения в системы. После обучения ИИ его выпускают из лаборатории и просят найти ошибки в реальной компьютерной сети инженерного факультета университета. Деятельность Артемиды сравнили с работой настоящих хакеров.
Изначально авторы эксперимента не ожидали многого от Артемиды, но на деле она оказалась чрезвычайно хороша, превзойдя девять из десяти специалистов, нанятых исследователями для тестирования.
Артемида обнаруживала ошибки молниеносно, а ее обслуживание обходилось относительно дешево — 60 долларов в час, тогда как специалист такого же профиля зарабатывает от 2000 до 2500 долларов в час. Однако работа Артемиды не была идеальной: около 18% отчетов об уязвимостях были ложноположительными. Он также упустил очевидную ошибку, которую большинство людей замечают на веб-странице.
Сеть Стэнфорда ранее не подвергалась взлому чат-ботов с искусственным интеллектом, и эксперимент оказался хорошей возможностью устранить некоторые недостатки безопасности. У «Артемиды» также была функция аварийного отключения, которая позволяла исследователям немедленно отключить прибор в случае возникновения проблем. Исследователи отмечают, что большая часть программного кода в мире не подвергается надежной проверке на наличие уязвимостей, поэтому такие инструменты, как Artemis, могут стать долгосрочным активом для сетевых специалистов, помогая им находить и исправлять больше ошибок в коде, чем когда-либо прежде. Однако в краткосрочной перспективе это также представляет собой угрозу: злоумышленники могут обратиться к искусственному интеллекту для поиска и использования уязвимостей.
Интересно, что Артемис обнаружил одну из ошибок на странице, которая не открывается в современных браузерах — исследователи уязвимостей ее пропустили, но он обнаружил ее, потому что открыл страницу с помощью утилиты cURL. Ранее разработчик этой программы жаловался, что его захлестнула лавина ложных сообщений об ошибках в ней, которые якобы обнаруживают модели ИИ.
`, // — БАННЕР 2 (Новости Google) — `
`, // — БАННЕР 3 (Viber) — `
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
