OpenAI разрабатывает детскую версию CHATGPT и планирует использовать возрастную прогнозирование технологий, чтобы лишить детей и подростков в возрасте до 18 лет от доступа к стандартной версии своего чат -бота искусственного интеллекта. Компания подчеркнула, что, если ее инструменты не могут определить возраст человека с уверенностью, Chatgpt «от осторожности» будет использовать версию для лиц в возрасте до 18 лет. Компания также считает, что всем пользователям CHATGPT должно быть более 13 лет.
Результаты недавних исследований в области отношений между людьми и искусственным интеллектом вызывают серьезную обеспокоенность по поводу риска психического здоровья подростков от продолжительного общения в чате. OpenAI недавно объявила о крупной инициативе по введению новых ограничений на подростков и людей, которые находятся в состоянии эмоционального стресса. Компания планирует представить эту функцию к концу года.
«Мы поставили безопасность над конфиденциальностью и свободой подростков. Это новая и мощная технология, и мы считаем, что несовершеннолетним нуждаются в значительной защите. Некоторые из наших принципов противоречат друг другу, и мы хотели бы объяснить решения, которые мы принимаем в связи с конфликтом между безопасностью, свободой и конфиденциальностью подростков».
Начальник Openai Сэм Альтман сказал
Новый детский интерфейс Chatgpt назначает большую часть ответственности родителей и опекунов. Родителям придется соединить свои учетные записи с подростковыми учетными записями, отправив приглашение своему ребенку. Затем они смогут ограничить реакцию CHATGPT на подростков с помощью встроенных в возрасте правил.
Родители смогут отключить или включать определенные функции, включая память и историю чатов. Включая соответствующую функцию, они получат уведомления, если «система обнаружит, что их подросток находится в состоянии острого стресса». OpenAI позволит родителям отправлять часы отключения, что подросток не может использовать CHATGPT.
Заявление Openai было сделано всего за несколько часов до слуха в Вашингтоне, посвященном потенциальному вреду чатов искусственного интеллекта. Эти слушающие группу сенаторов намерены изучить риски для подростков, связанных с чат -ботами. Тем не менее, на прошлой неделе Федеральная коммерческая комиссия (FTC) начал свое собственное расследование безопасности чат -ботов, запросив информацию от OpenAI, Meta, Google, Xai, Snap и Harge.ai.
Технологические компании обычно создают специализированные приложения для подростков и детей в ответ на судебные процессы, например, дети на YouTube. Тем не менее, самым большим препятствием для использования таких приложений является необходимость убедить подростков связывать свои счета со своими родителями.
OpenAI давно заявил, что всем пользователям CHATGPT должно быть более 13 лет. Умные молодые люди часто понимают информационные технологии значительно лучше, чем их родители и опекуны. Им нетрудно найти способы обойти ограничения, чтобы получить доступ к желаемым сайтам и приложениям.
