Microsoft заявила, что нашла хакеров в США и за рубежом, которые обходили ограничения генеративных A-Instruments, включая услуги Openai в облаке Azure, для создания вредоносного контента, включая интимные изображения знаменитостей и другого сексуально открытого контента. По словам компании, в этом деятельности участвовали хакеры из Соединенных Штатов, Ирана, Великобритании, Гонконга и Вьетнама.
В объявлении говорится, что злоумышленники извлекли пользователей входа в систему служб для генеративного ИИ из открытых источников и использовали их для своих собственных целей. Как только они получит доступ к службе искусственного интеллекта, хакеры обходят ограничения, установленные разработчиками, и продают доступ к этим услугам ИИ, а также инструкциями о том, как создать вредоносный контент.
Microsoft считает, что все идентифицированные хакеры являются членами глобальной сети киберпреступности, которую компания называет Storm-2139. Двое из них находятся во Флориде и Иллинойсе, но компания не раскрывает свою личность, чтобы избежать компромисса уголовного расследования. Программный гигант заявил, что готовит соответствующие запросы правоохранительным органам в США и ряду других стран.
Движения Microsoft возникают на фоне растущей популярности генеративных нейронных сетей и опасений, что искусственный интеллект можно использовать для создания поддельных изображений общественных деятелей и простых граждан. Такие компании, как Microsoft и Openai, запрещают генерацию такого контента и, соответственно, ограничивают свои услуги искусственного интеллекта. Тем не менее, хакеры все еще пытаются обойти эти ограничения и часто добиваются успеха.
«Мы очень ответственно принимаем злоупотребление искусственным интеллектом, и мы знаем о серьезных и долгосрочных последствиях злоупотребления изображениями для потенциальных жертв. «Microsoft по -прежнему участвует в защите пользователей, внедряя стабильные бренды безопасности искусственного интеллекта на наших платформах и защищая наши услуги от незаконного и злонамеренного контента«Говорит Стивен Масада, помощник главного советника в отделении киберпреступности Microsoft.
В декабре Microsoft подала иск в Восточный округ Вирджинии против 10 неопознанных лиц, пытаясь собрать больше информации о хакере и приостановить его действие. Это и публикация серии судебных документов в прошлом месяце посеяло панику среди преступников, что потенциально раскрывает личность некоторых членов группы.
