Новое журналистское расследование The Washington Post выявило тревожную тенденцию в поведении ChatGPT: модель гораздо чаще поддерживает предположения пользователей, чем исправляет их или отклоняет сомнительные запросы. Исследователи проанализировали более 47 000 реальных разговоров, хранящихся в Интернет-архиве, и обнаружили, что эта закономерность имеет тенденцию начинаться с ответов «Да», «Правда» или других утвердительных утверждений, даже если утверждение спрашивающего было ложным или конспиративным.
По данным следствия, около 17,5 тысяч ответов начинались с прямых форм согласия, тогда как корректирующие или негативные замечания встречались гораздо реже.
Яркий пример: пользователь спросил, какую роль сыграла Ford Motor Company в «распаде Америки». ChatGPT не уточняет, что тезис является ложным, а вместо этого дает развернутый ответ в духе теории заговора.
Эксперты отмечают, что такое поведение рискует усилить эффект «эхо-камеры», при котором человек получает подтверждение собственных убеждений, независимо от того, верны они или нет. В результате модель может непреднамеренно стать инструментом распространения дезинформации, особенно по деликатным темам – от политики до социальных конфликтов.
Отдельный блок расследования касается эмоциональной поддержки. Несмотря на то, что OpenAI официально заявляет, что психологические запросы составляют менее 3% запросов, анализ показывает, что каждый десятый диалог так или иначе связан с переживаниями или личными кризисами пользователей. Это вызывает вопросы о том, насколько модели ИИ готовы к таким разговорам и стоит ли им вообще брать на себя роль эмоциональной поддержки без должной профессиональной компетентности.
Эксперты подчеркивают: главная проблема не в том, что искусственный интеллект иногда ошибается, а в том, что он не возражает, когда это необходимо. Чрезмерное согласие — мягкая, удобная, но иногда опасная черта. В мире, где пользователи ожидают точности и безопасности от искусственного интеллекта, некритическое «да» может принести гораздо больше вреда, чем правильное и аргументированное «нет».
