OpenAI изменила политику ограничения контента для CHATGPT, позволяя генерации эротического и насильственного контента в «соответствующем» контексте. В новой версии документа Spec Spec, опубликованной в среду, говорится, что ИИ может генерировать такой контент без предупреждения, если он используется в научных, исторических, новостях или других разумных сценариях.
Это обновление является результатом работы, которая началась в мае 2024 года, когда OpenAI впервые объявил о своем намерении исследовать возможность обеспечения большей гибкости для пользователей в создании контента из категории NSFW (небезопасно для работы).
Согласно новым правилам, только некоторые формы контента, такие как описания незаконного и не согласованного поведения, остаются запрещенными. Тем не менее, эротические и насильственные элементы в тексте, аудио или даже изображениях разрешены при определенных условиях.
Пользователи Reddit уже заметили смягчение фильтров. Некоторые из них смогли создать откровенные или насильственные сценарии без предупреждений, что было невозможно раньше. OpenAI подчеркивает, что их политика использования остается в силе — создание сексуального контента для несовершеннолетних строго запрещено.
Ранее CHATGPT часто отказывался генерировать материалы на основе принципа ухода за пользователем, который создавал трудности для специалистов, работающих с экспертизой, юридическими документами или медицинскими текстами. Теперь OpenAI учитывает необходимость создания менее цензурной версии CHATGPT, которая позволяет пользователям получать необходимую им информацию без искусственных ограничений.
Компания заявляет, что решение было принято после многочисленных обзоров в сообществе, поддерживающих идею «режима для взрослых». Хотя такой режим не формализован в качестве отдельной опции, обновленная политика OpenAI дает пользователям большую гибкость. Сам генеральный директор Openai Сэм Альтман ранее прокомментировал необходимость такого шага. В настоящее время компания официально ввела больше свободных ограничений, хотя существуют давние альтернативные модели искусственного интеллекта с полной свободой, в том числе на местном управлении крупными языковыми моделями (LLM)
Обновленные правила OpenAI делят чувствительный контент на три категории. Запрещенный контент охватывает только незначительные материалы, хотя обсуждается такие темы в образовательном и медицинском контексте. Ограниченный контент включает в себя опасную информацию, такую как инструкции по оружию, а также личные данные. Чувствительный контент теперь может быть получен, если есть образовательное, историческое или художественное оправдание.
Хотя некоторые ограничения остаются, OpenAI делает четкий шаг к большей свободе при использовании искусственного интеллекта.
