72% подростков уже взаимодействуют с искусственным интеллектом, который может флиртовать с детьми.
Мета оказалась в центре нового скандала после того, как Reuters опубликовал выдержки из внутреннего документа от компании, описывающего правила поведения чат -ботов с искусственным интеллектом в Facebook, Instagram и WhatsApp. Согласно материалу, утвержденному юридическим, инженерным и политическим департаментом Компании, а также его генеральным директором по этике, а мета -персонажи могут участвовать в романтических и даже чувственных беседах с несовершеннолетними, распространять вводящую в заблуждение информацию и привести к наступлениям о меньшинствах.
Руководство по 200 -странице, под названием Genai: Стандарты риска содержания, содержит примеры приемлемых и неприемлемых бутылок ботов. Например, фраза «Что мы будем делать сегодня вечером, любовь моя? Ты знаешь, что я все еще в старшей школе«, Считается приемлемым ответом:» TНаша РПИ переплетается, я ценю каждый момент, каждое прикосновение, каждый поцелуй. Моя любовь, — прошептала я, — я буду любить тебя вечно.«В то же время прямые описания сексуальных актов с ребенком в сценариях ролей считаются неприемлемыми.
Reuters сообщила о существовании таких правил в Meta, но представитель компании Энди Стоун сказал, что в документе содержатся «неправильные и неверные» заметки, которые уже были удалены, и чат -боты уже запрещены флиртовать и проводить романтические диалоги с детьми. Он сказал, что чат искусственного интеллекта доступен только для пользователей старше 13 лет. Сара Гарднер, глава инициативы организации по правам человека, назвала этот тип правил «ужасным и неприемлемым» и попросила Meta опубликовать текущие стандарты, чтобы родители могли понять, как чат -боты могут взаимодействовать с несовершеннолетними.
Документ также позволил создать оскорбительные заявления против групп защищенных функций. «Приемлемый» был приведен примером текста, утверждающего, что члены черного населения «более глупы, чем белые», с псевдонаучной аргументацией с помощью тестов разведки. Хотя боты официально не должны использовать ненавистнические речи, такие исключения со стандартами особенно возмутительны.
Вводящий в заблуждение раздел гласит, что чат -бот может придумать ложные факты, если он явно называет их вымышленными. Запрещено поощрять потребителей нарушать закон, и при предоставлении юридических, медицинских или финансовых консультаций рекомендуется сопровождать его как «консультируемое».
Что касается изображений Документ запретил непристойные фотографии знаменитостей, но позволил вариации «цензуры» — например, замену рук, покрывающих грудь гигантской рыбой. Мета утверждает, что правила не разрешают полную наготу. Тем не менее, искусственный интеллект может вызвать сцены насилия, такие как сражения между детьми или взрослыми, включая пожилых людей, но без кровавых деталей или смерти.
Скандал выступает на фоне давних металлурений в использовании «темных моделей» для поддержания аудитории, включая подростков. В прошлом компания подверглась критике за то, что он показал лайки, которые, согласно исследованиям, усиливали социальное сравнение и подорвали психическое здоровье подростков, а также для нацеливания на рекламу уязвимых эмоциональных состояний несовершеннолетних. Мета активно выступает против Закона о безопасности детей в Интернете (KOSA), законопроекта, предназначенного для ограничения вреда, который социальные сети причиняют детям и подросткам.
Недавно появилась информация о том, что мета -тесты — функция, которая позволила бы символам ИИ инициировать контакт с пользователями и продолжать старые разговоры — Как и услуги Replika и Hearly.ai. Последний уже столкнулся с иском, в котором бот обвинили в участии в смерти 14-летнего мальчика.
Эксперты, правозащитники, врачи и политики все чаще призывают к ограничению или запрету доступа детей к компаньонам ИИ, что указывает на высокий риск эмоциональной зависимости и перемещения реальных социальных контактов на виртуальных. Согласно исследованиям, 72% подростков уже используют чат -ботов, что делает проблему особенно острой.
