Альтман признает основную проблему с искусственным интеллектом, которая стоит жизни подростков.
OpenAI объявил о новых мерах безопасности в CHATGPT после серии трагических историй и судебных процессов, в которых чат -бот был обвинен в участии в самоубийствах подростков. Теперь система попытается определить возраст человека чат -бота и, при необходимости, может запросить документ, чтобы подтвердить, что пользователю старше 18 лет. Компания признает, что это ограничивает конфиденциальность взрослых, но считает, что компромисс оправдан во имя безопасности.
Генеральный директор Openai Сэм Альтман сказал, что он не ожидал единодушного одобрения этих шагов, но считает их необходимыми на фоне растущего конфликта в отношении регулирования ИИ. На это решение повлияло ряд высоких инцидентов общественного интереса.
В августе родители подростка по имени Адам Рейн подали иск, утверждая, что Чатгпт помог ему написать смертельное письмо, когда нейронная сеть дала ему советы по методам и в то же время отговорил его поделиться своим опытом со взрослыми. В том же месяце The Wall Street Journal сообщил о 56-летнем мужчине, который покончил с собой после общения с ботом, который кормил его паранойю. А Washington Post сообщил о новом судебном деле, в котором родители обвиняют персонаж Службу ИИ в смерти 13-летней девочки.
OpenAI ранее применял родительский контроль в CHATGPT, но теперь ужесточил правила. Для несовершеннолетних чат -бот будет работать над другими принципами: он отказатся от флирта, исключает обсуждение самоубийств и самооценка даже в художественном контексте. В случае опасных мыслей у подростка система попытается связаться со своими родителями, и если это невозможно, и есть опасность для жизни — связаться с службами экстренной помощи.
Openai признает, что она сталкивается с фундаментальной проблемой с крупными языковыми моделями. На ранних стадиях CHATGPT работает строго, отказываясь от многих тем, но растущая конкуренция со стороны «непристойных» и локализованных решений, а также давление со стороны критиков цензуры, вынудило компанию смягчить фильтры. Курс изменился: пожилые люди хотят предоставить максимальную свободу, не причиняя вреда и не ограничивая чужие права.
Другие платформы предпринимают аналогичные инициативы: летом YouTube объявил о своих планах по использованию алгоритмов машинного обучения для оценки возраста зрителей и защиты подростков от определенных категорий контента. Таким образом, Openai, создатель популярного чат -бота CHATGPT, представил новую и строгую политику, требующую проверки личности с помощью удостоверения личности для доступа к сервису.
