OpenAI имеет подробные планы по исправлению ошибок CHATGPT при работе с ‘Чувствительные ситуации« — Проблема, которую компания примет меры после того, как она была проверена семьей подростка, который покончил жизнь самоубийством.
«Мы будем продолжать улучшать (CHATGPT), основываясь на советах экспертов и нашей ответственности перед людьми, которые используют наши инструменты, и мы надеемся, что другие присоединятся к нам, чтобы убедиться, что эта технология защищает людей, когда они наиболее уязвимы«-поступила компанию в корпоративном блоге. Родители 16-летнего Адама Рейна, который покончил жизнь самоубийством, на день ранее был судил Openai, которые покончили с собой; истцы утверждают, что» утверждают, чтоCHATGPT активно помогал Адаму научиться совершать самоубийства«Openai объяснил, что Chatgpt обучен предлагать помощь людям, которые выражают опасные намерения. Но в долгосрочной переписке эта функция может начать работать должным образом, и чат -бот иногда дает ответы, которые противоречат политике безопасности компании.
Разработчик рассказывает о предстоящем обновлении флагманской модели GPT-5, с которой чат-бот научится уменьшать интенсивность обсуждения. Кроме того, компания изучает возможность передавать пользователей в »Сертифицированные психотерапевты перед кризисом«-Также нет исключения возможности формирования группы экспертов, с которыми пользователи могли бы связаться непосредственно через Chatgpt. Openai, также пообещали добавить средства контроля, которые помогут родителям лучше понять, как их дети используют Chatgpt. Безопасность продуктов компании.
По словам CNBC, есть и другие сообщения о самоубийстве среди пользователей CHATGPT. По мере роста популярности услуг ИИ растут, опасения по поводу их использования для терапии, общения и других социальных потребностей увеличиваются.
