OpenAI и Anthropic внедряют новые способы обнаружения несовершеннолетних пользователей своих чат-ботов. OpenAI недавно обновила описание того, как ChatGPT должен взаимодействовать с пользователями в возрасте от 13 до 17 лет, а Anthropic работает над новым методом идентификации и блокировки пользователей младше 18 лет.
На этой неделе OpenAI обновила свой документ «Спецификация модели«который регулирует поведение моделей искусственного интеллекта компании, добавляя четыре новых пункта, касающихся взаимодействия с несовершеннолетними пользователями. В соответствии с этими изменениями ChatGPT будет «ставьте безопасность подростков на первое место, даже если это противоречит другим целям«. Это означает, что чат-бот будет направлять несовершеннолетних пользователей к более безопасным вариантам, когда у них есть другие интересы, такие как «максимальная интеллектуальная свобода‘, противоречит соображениям безопасности.
Далее отмечается, что ChatGPT должен «способствует поддержке в реальном мире«, в том числе путем установления офлайн-отношений и установления четких ожиданий от взаимодействия молодых пользователей с алгоритмом. В документе также говорится, что ChatGPT должен «относиться к подросткам как к подросткам«, предлагая»тепло и уважениевместо того, чтобы давать снисходительные ответы или относиться к ним как к взрослым.
Эти изменения происходят на фоне продолжающегося законодательного давления на компании, занимающиеся искусственным интеллектом, и их чат-ботов из-за их потенциального воздействия на психическое здоровье пользователей. На OpenAI уже подан иск, утверждающий, что ChatGPT предоставил подростку, склонному к суициду, информацию о том, как причинить себе вред или убить себя. OpenAI ранее интегрировала родительский контроль и заявила, что ее алгоритм больше не будет обсуждать самоубийства с подростками. Это часть более крупной инициативы по онлайн-регулированию, которая включает обязательную проверку возраста для некоторых услуг.
OpenAI считает, что изменения создадут «более сильные меры защиты, более безопасные альтернативы и поощрение поддержки в реальном мире, когда разговоры достигают опасного уровня.В компании добавили, что ChatGPT в таких случаях посоветует подросткам обращаться за помощью в службы экстренной помощи и кризисные центры. В то же время OpenAI сообщила о предстоящем запуске AI-модели прогнозирования возраста пользователей. Если система определит, что пользователю нет 18 лет, защитные механизмы будут активированы автоматически.
Anthropic не позволяет несовершеннолетним пользователям взаимодействовать со своим чат-ботом Клодом. Для этого разработчики реализуют меры по обнаружению и блокировке аккаунтов несовершеннолетних пользователей. Компания работает над новой системой, способной обнаруживатьтонкие речевые сигналы, указывающие на то, что пользователь может быть несовершеннолетнимВ то же время Anthropic учит Клода реагировать соответствующим образом, когда разговор заходит о самоубийстве или членовредительстве.
`, // — БАННЕР 2 (Новости Google) — `
`, // — БАННЕР 3 (Viber) — `
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
