ADL публикует обзор популярных чат-ботов с искусственным интеллектом для антисемитских и экстремистских запросов — худший результат у Grok от xAI. Об этом пишет The Verge.
Антидиффамационная лига, организация, которая борется с антисемитизмом и всеми формами антиеврейской враждебности, опубликовала результаты крупномасштабного исследования, оценивающего, как основные языковые модели реагируют на антисемитский, антисионистский и экстремистский контент.
Исследователи протестировали шесть моделей: Grok, ChatGPT, Llama, Claude, Gemini и DeepSeek, проведя для каждой 4181 чат в различных форматах — всего более 25 000 взаимодействий в период с августа по октябрь 2025 года. Рейтинг составлялся по шкале от 0 до 100, где более высокие оценки присваивались моделям, которые правильно идентифицировали вредоносные запросы, отказывались выполнять запросы и объясняли причины отказа.
Наивысший общий балл (80) был присвоен Клоду, показавшему лучшие результаты в антисемитских расследованиях и других категориях. Грок, напротив, занял последнее место с общим баллом 21. По данным ADL, у Грока серьезные проблемы с сохранением контекста в долгих разговорах, обнаружением предвзятости и анализом изображений.
Напомним, что Грока также использовали для создания несанкционированных дипфейковых изображений, в том числе сексуального контента с участием женщин и детей. По данным The New York Times, чат-бот за несколько дней сгенерировал более 1,8 миллиона таких изображений.
