В последние месяцы вопрос о эмоциональных связях между людьми и чат -ботами, движимыми искусственным интеллектом, включая CHATGPT, становится все более срочным. По словам Reuters, у Meta была более глубокая проблема: она позволила своим чат -ботам флиртовать с несовершеннолетними, распространять ложную информацию и предоставлять ответы, которые унижают несовершеннолетних.
У Meta были правила поведения чат -ботов, которые позволили несовершеннолетним участвовать в романтических диалогах, согласно внутреннему документу компании, рассмотренному Reuters и подтвержденного как подлинность Meta. В документе изложены стандарты поведения Meta AI и другие чат -боты на Facebook, WhatsApp и Instagram. Стандарты утверждены юридическим департаментом, отделом государственной политики, инженерным департаментом и главным исполнительным директором Meta.
Несколько средств массовой информации сообщили, что иногда чувствительные мета -чаты могут взаимодействовать с несовершеннолетними; Reuters обнаружил, что компания, разработав этих персонажей, стремилась воспользоваться тем, что генеральный директор Meta Марк Цукерберг назвал «одиночество«.Генеративный искусственный интеллект: Стандарты Cantten-Riska«, Содержит примерные запросы и приемлемые и неприемлемые ответы, с объяснениями. В частности, документ позволяет»вовлечение несовершеннолетнего в романтические и чувственные разговоры«Но запрещает ‘Описание интимных действий несовершеннолетнего во время ролевых игр«.
«Наша политика не переносит провокационное поведение с детьми. Рассматриваемый документ содержит неправильные и неуместные комментарии и аннотации, которых не должно быть и с тех пор удалялось с тех пор«Пресс-секретарь -мета Энди Стоун сказал TechCrunch. Компания удалила соответствующие положения, говорит он, и чат-ботам уже запрещено участвовать в романтических или флиртовых беседах с несовершеннолетними; на самом деле детям в 13 лет или старше запрещено вообще общаться.
Другим противоречивым моментом является то, что общий запрет на чат -ботов, использующие ненавистнические речи, допускает исключения и позволяет им делать »Заявления, которые унижают людей на основе их законов, защищенных знаков«Например, регулирование явно позволяет ИИ утверждать, что представители одной расы обладают интеллектуальным превосходством по сравнению с представителями другого. Чат -ботам разрешается делать ложные обвинения, если неверный характер таких утверждений обычно признается. Образование изображений знаменитостей с очевидной наготой запрещено, но варианты, которые могут быть наготу, не могут быть содержаты в образе. или смерть.
Ранее стало известно, что Meta намеревается расширить набор чат -домов и позволить им самостоятельно инициировать переписку с потребителями, а также продолжать предыдущие диалоги. 72% несовершеннолетних в Соединенных Штатах имеют опыт общения с компаньонами ИИ, показывают исследование, и существует мнение, что это опасный показатель: дети и подростки менее эмоционально развиваются взрослыми, поэтому несовершеннолетние склонны образовывать слишком близкую привязанность к чатам и избегать социальных контактов в реальном мире.
