Федеральная коммерческая комиссия США (FTC) Исследование семи крупных технологических компаний, в том числе алфавит, Meta, Openai, Xai и Snap, начал определять, может ли их искусственный интеллект оказать негативное влияние на детей и подростков. Регулирующий орган выдал заказы на то, чтобы эти компании предоставили подробную информацию о мерах безопасности, применяемых к их чатам, которые способны подражать человеческому общению и межличностным отношениям.
В частности, FTC заинтересован в том, как компании оценивают риски, связанные с чат -ботами искусственного интеллекта, как они монетизируют взаимодействие с потребителями, разрабатывают и одобряют виртуальные личности, используют или обмениваются личными данными, а также какие механизмы для контроля и уменьшения ущерба. Лидер FTC Эндрю Фергюсон подчеркнул, что защита детей в Интернете остается ключевым приоритетом для агентства, наряду с поддержкой инноваций в критических секторах экономики.
Реакции компаний были разными. Мета отказалась комментировать CNBC, а Alphabet, Snap и Xai еще не ответили на запросы. Пресс -секретарь Openai сказал CNBC, что приоритетом компании является обеспечение того, чтобы CHATGPT был полезен и безопасен для всех пользователей, особенно для молодых людей, и что OpenAI готов открыто сотрудничать с регулирующим органом. Персональные технологии (Персонаж) и Instagram, принадлежащий Meta, также находятся в списке наблюдений.
Увеличение внимания FTC к этой теме связано с недавними инцидентами. Например, после расследования сенатора Reuters Джош Хули инициировал мета -проверку: в докладе показано, что ее чат -боты могут иметь опасные разговоры с детьми. В ответ Meta временно ужесточила правила своего искусственного интеллекта, запретив обсуждение самоубийств, самоубийств и расстройств пищевого поведения и ограниченных «чувственных» диалогов. OpenAI принимает аналогичные меры: компания объявила об обзоре CHATGPT после судебного процесса, обвиняющего чат -бот о косвенном участии в смерти подростка.
