OpenAI остановил счета пользователей из Китая и Северной Кореи, которые, как говорят, использовали технологии компании для вредоносных целей, включая кампании по мониторингу и влиянию общественного мнения. Openai заявил в своем заявлении, что авторитарные режимы могут использовать искусственный интеллект, чтобы нанести вред Соединенным Штатам и их собственным гражданам. Отмечено, что специальный алгоритм ИИ был использован для выявления подозрительной деятельности.
Компания не говорит, сколько счетов было заблокировано или как долго она искала учетные записи, владельцы которых потенциально занимаются злонамеренной деятельностью. В заявлении говорится, что в таком случае пользователь CHATGPT сгенерировал новостные статьи на испанском языке, чтобы унизить Соединенные Штаты. Впоследствии эти материалы были опубликованы публикациями новостей в Латинской Америке от имени китайской компании.
Во втором случае злоумышленники с подозреваемыми связями с Северной Кореей использовали искусственный интеллект для создания автобиографий и онлайн -профилей фиктивных соискателей, чтобы обеспечить им работу в западных компаниях. Группа счетов, принадлежащих пользователям Камбоджи, связанных с финансовым мошенничеством, также была выявлена. Они используются для перевода и публикации комментариев в различных социальных сетях, включая X и Facebook.
Правительство США выразило обеспокоенность по поводу того, что Китай использует искусственный интеллект для контроля общественного мнения в стране, а также для распространения дезинформации и подрывать безопасность США и их союзников. В качестве напоминания, CHATGPT Openai-самый популярный AI-бот с 400 миллионами активных пользователей в неделю. Компания ведет переговоры о том, чтобы собрать до 40 миллиардов долларов США в размере 300 миллиардов долларов для OpenAI, что станет рекордным раундом финансирования для частной компании.
