Было много споров вокруг чат-бота Grok от xAI и его способности «раздевать» женщин и детей в цифровом формате, и эта практика усилилась с конца декабря. В новом отчете говорится, что Грок генерирует тысячи таких изображений каждый час. Для сравнения, другие ведущие сайты с таким контентом, вместе взятые генерировать в среднем 79 похожих изображений в час.
Женевьева О, исследователь социальных сетей и дипфейков, проводит 24-часовой анализ изображений, которые аккаунт @Grok публикует на X. Каждый час он генерирует около 6700 изображений, которые идентифицируются как сексуальные.
Уже давно существует негативная реакция на приложения для раздевания, которые используют искусственный интеллект для раздевания людей без согласия – на некоторые из этих сайтов в прошлом были возбуждены иски.
В отличие от обычных приложений для обнажения людей, Grok не взимает с пользователей плату за раздевание людей и доступен миллионам пользователей X. Это помогает нормализовать эти изображения на X — газета Financial Times недавно опубликовала статью под названием «X, сайт дипфейкового порно, ранее известный как Twitter».
Одна из женщин, на которых были созданы фейковые сексуальные изображения, — мать одного из сыновей Илона Маска. Эшли Сент-Клер, которая рассталась с Маском после рождения их ребенка в 2024 году, рассказала The Guardian, что сторонники Маска использовали этот инструмент для создания формы порномести и даже раздели ее фотографию в детстве.
Отвечая пользователям на прошлой неделе, Грок заявил, что большинство случаев появления несовершеннолетних на сексуализированных изображениях, которые он генерирует, можно предотвратить с помощью расширенных фильтров и мониторинга, но признал, что «ни одна система не является на 100% надежной». Она добавила, что xAI уделяет первоочередное внимание улучшениям и анализирует детали, предоставленные пользователями.
Маск всегда позиционировал Грока как менее ограничительного чат-бота, который якобы отдает приоритет свободе слова. В августе xAI представила Grok новый режим Spicy Mode, предназначенный для отображения контента NSFW. По оценкам Оу, в общей сложности 85% изображений Грока были так или иначе сексуализированы.
Представитель X заявил, что компания принимает меры против незаконного контента, удаляя его, навсегда приостанавливая учетные записи и при необходимости работая с местными властями и правоохранительными органами.
«Любой, кто использует Grok или поощряет его создавать незаконный контент, пострадает от тех же последствий, как если бы он загрузил незаконный контент».
представитель сказал
Несколько стран, в том числе Франция, Великобритания, Индия, Австралия, Малайзия и Бразилия, уже проводят расследование в отношении Грока за создание сексуальных изображений с участием женщин и детей без согласия пользователей.
Платформы уже давно используют раздел 230 Закона США о порядочности в сфере коммуникаций, чтобы защитить себя от ответственности за пользовательский контент, но утверждается, что с помощью ИИ платформа сама создает имидж.
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
