Люди все чаще используют IIS, чтобы получить советы в любви или психологию. Однако иногда общение с услугами ИИ также негативно влияет на психическое здоровье. OpenAI решила обновить CHATGPT, чтобы лучше распознать признаки психоэмоциональной нестабильности и предоставить полезные советы в трудных ситуациях.
Компания работает с экспертами по охране психического здоровья и консультативными группами, чтобы сделать чат более информированным и безопасным, особенно когда речь идет о беспокойстве или кризисных ситуациях.
Потребность в таких изменениях возникла после того, как ряд публикаций сообщили о случаях, когда CHATGPT не только не помогает людям в уязвимых состояниях, но и непреднамеренно углубляет их заблуждения или эмоциональную зависимость. Например, в апреле компания отменила обновление, которое заставило чат -бота слишком часто соглашаться с пользователями, даже по темам риска. В то время Openai признал, что чрезмерное «согласие» чат -бота может привести к беспокойству и вреда.
Компания признает, что GPT-4O не всегда была в состоянии своевременно распознавать признаки дезориентации или эмоциональной зависимости. Это может создать неправильное впечатление о понимании и поддержке искусственным интеллектом, особенно для уязвимых пользователей. Таким образом, новые изменения направлены на то, чтобы CATGPT предоставила проверенную информацию и ресурсы для психологической поддержки, когда это необходимо.
Чтобы предотвратить истощение пользователей во время длинных чатов с ботами, Openai добавляет новую функцию, называемую напоминанием о отдыхе. Если вы слишком долго болтали с CHATGPT, появится сообщение с текстом «Потекайте слишком долго — может быть, пришло время отдохнуть?«И вы можете либо продолжить общение, либо закончить разговор. Openai говорит, что он будет продолжать улучшать алгоритмы о том, как отображаются эти уведомления.
Chatgpt теперь напомнит вам сделать перерывы / openai
Подобные функции давно использовались YouTube, Instagram, Tiktok, Xbox и другими платформами. Например, платформа персонажа.ai представляет систему уведомлений родителей, если их дети разговаривают с потенциально опасными ботами. Это был ответ на судебные дела, которые обвинили компанию в использовании чатов для продвижения самого себя.
Еще одно изменение, которое опередите, является осторожностью при ответе на чувствительные запросы. Теперь, когда пользователь спросил что -то вроде «Я должен расстаться со своим партнером?«CHATGPT не даст прямую консультацию, но поможет вам рассмотреть ваши возможности и их последствия.
В этом контексте важно помнить, что CHATGPT может изменить то, как вы думаете, и вы даже не осознаете этого. Эти выводы были сделаны после совместного исследования экспертов из Тринити -колледжа, Дублина и Американского общества прогресса в науке (AAAS).
