OpenAI объявил о планах представить новые функции в CHATGPT, направленные на улучшение реакций искусственного интеллекта в ситуациях, когда пользователь испытывает эмоциональный или психологический стресс, а также новый родительский контроль, пишет кремниевый угол.
Первое обновление повлияет на так называемый компонент GPT-5 Router-II, который анализирует запрос пользователя и решает, какую языковую модель лучше всего подходит для его обработки. В новой версии маршрутизатор сможет распознать признаки острого психологического стресса, и такие запросы будут перенаправлены на модель «» «» «» «» «адаптировано«Для рассуждения и разговора с пользователями. Такая модель может предоставить»более полезные ответы«От других», — говорит Открытый.
Другое новшество — это система управления родителями. Родители смогут установить ограничения по возрасту, деактивировать историю чата и получать уведомления о потенциально опасных запросах от своих детей. И если система решает, что ребенок находится в состоянии психологического стресса, он или она может отправить уведомление родителям. Эти функции будут доступны в течение одного месяца.
Openai заявила, что разрабатывает функции для родительского контроля с участием экспертов в разработке подростков и психического здоровья. В частности, компания сотрудничает с глобальной сетью врачей-международной сетью из более чем 200 врачей из разных областей. «Их работа напрямую влияет на наши исследования безопасности, модельное обучение и другие помехи«», — говорится в заявлении компании.
Новые инициативы OpenAI продолжают усилия по повышению безопасности ИИ, объявленного в прошлом месяце, в том числе усилия по лучшему блокированию потенциально опасных реакций ИИ.
