OpenAI отложила выпуск эротических чатов на ChatGPT из-за проблем с безопасностью

Многие отрасли промышленности частично процветают благодаря естественному человеческому интересу к эротическому контенту, и искусственный интеллект не является исключением. Компании борются с искушением использовать эротику для продвижения своих платформ, пытаясь при этом придерживаться правовых и этических норм. В связи с этим OpenAI пока не готова выпускать эротические чаты на ChatGPT.

Еще в середине прошлого года генеральный директор OpenAI Сэм Альтман заявил, что существует вероятность появления такой функции в ChatGPT. Первоначально он рассматривал идею запуска функции эротического чата к декабрю прошлого года, затем сроки были перенесены на текущий квартал, но теперь понятно, что и этот график не будет выполнен. Как минимум, задержка с дебютом функции эротического чата составит месяц, сообщает The Wall Street Journal.

OpenAI экспериментировала с использованием ИИ для создания текстового контента эротического характера задолго до запуска ChatGPT.

Уже в 2021 году OpenAI представила покупателям игру AI Dungeon с нелинейным сюжетом, развитие которого могли задавать пользователи. Специалисты OpenAI тогда обнаружили, что платформа ИИ иногда предлагала игрокам обсудить темы, связанные с сексуальными отношениями, даже если они никоим образом не провоцировали такой поворот сюжета. Если же пользователь сам предлагал умеренную степень эротики, ИИ буквально «преувеличивал» откровенность соответствующих разговоров. Тогда в OpenAI задумались о привлекательности такого применения чат-ботов, но в то же время осознали необходимость введения этических ограничений.

Руководство OpenAI в последнее время все более благосклонно относится к идее запуска эротических чатов, подчеркивая, что все будет ограничиваться только текстовой информацией, без создания изображений и видео сексуального содержания. Конкуренты тоже работают над этим. В прошлый четверг Илон Маск объявил, что его чат-бот Grok вскоре сможет создавать видеоконтент, попадающий в категорию «18+». Meta позволяет пользователям своего чат-бота проводить романтические ролевые игры, но только в том случае, если она уверена, что они достигли совершеннолетия.

У самого OpenAI все еще есть проблемы с механизмами проверки возраста. В настоящее время система принимает подростков за взрослых в 12% случаев. Учитывая, что аудитория ChatGPT насчитывает около 100 миллионов несовершеннолетних пользователей, такой уровень ошибки позволит миллионам подростков регулярно получать доступ к эротическим чатам. Экспертная группа, созданная OpenAI в январе, также выразила обеспокоенность угрозой контента, запрещенного с точки зрения общественной морали и закона, включающего насильственные действия сексуального характера, упоминание несовершеннолетних и другие специфические сценарии. Кроме того, увлечение подобным контентом может вызвать у людей психологическую зависимость и снизить их мотивацию поддерживать отношения с партнерами в реальной жизни. OpenAI хочет напомнить таким целеустремленным людям, что им необходимо строить отношения с реальными людьми.

Это особенно важно, учитывая не очень приятные инциденты, произошедшие с распространением чат-ботов. Были примеры, когда люди доводились до самоубийства в результате длительного взаимодействия с вымышленными персонажами чат-ботов, включая самоубийства среди подростков. Эксперты опасаются, что эротическая направленность таких разговоров только спровоцирует рост числа подобных случаев. По поводу механизмов проверки возраста пользователей представители OpenAI не питают особых иллюзий — по их словам, они никогда не смогут быть идеальными и работать в 100% случаев. По состоянию на 2021 год некоторые сотрудники OpenAI выразили несогласие с идеей запуска эротических чатов на платформе из-за опасений окончательного скатывания в эту сферу: «Мы не хотели быть просто компанией, распространяющей эротику».

На данный момент руководство OpenAI считает целесообразным запуск эротических чатов, руководствуясь следующими принципами: «Мы по-прежнему считаем, что к взрослым нужно относиться как к взрослым, но формирование правильного подхода займет больше времени».