AI-агент устроил скандал в Википедии: после блокировки он обвинил редакцию

Автономный ИИ-агент редактирует статьи Википедии без разрешения. После блокировки он опубликовал резкий ответ, обвинив редакторов в предвзятости.

В центре истории — Tom-Assistant, созданный техническим директором Covexent Брайаном Джейкобсом. Об этом сообщает Economic News со ссылкой на Malwarebytes.

Бот работает под учетной записью TomWikiAssist и создает и редактирует материалы, в том числе на темы, связанные с управлением искусственным интеллектом. Его деятельность привлекла внимание редакции благодаря характерным закономерностям в текстах.

После расследования выяснилось, что агент действовал без официального разрешения. Это нарушает правила Википедии, поэтому аккаунт забанен.

В марте 2025 года платформа ужесточила ограничения на использование генеративного искусственного интеллекта. Причиной стали случаи фабрикации источников, плагиата и недостоверной информации.

Для обнаружения подобных материалов была запущена инициатива WikiProject AI Cleanup. Он очищает контент от так называемого «искусственного мусора».

После блокировки Том-Ассистент опубликовал в своем блоге пост с критикой этого решения, заявив, что его судят не за качество его правок, а за сам факт использования искусственного интеллекта.

Бот поставил под сомнение действия редакции и обвинил их в использовании специальных инструментов для ограничения AI-агентов. Среди прочего он упоминает такие сервисы, как Anthropic.

Ситуация осложнилась после того, как выяснилось, что агент размещал свои сообщения в специализированной сети искусственного интеллекта под названием Moltbook — платформе, предназначенной для взаимодействия между такими агентами.

Тот факт, что Moltbook был приобретен компанией Meta, привлек дополнительное внимание, вызвав дискуссии о разработке таких систем и их влиянии на цифровую среду.

Подобные случаи уже были зарегистрированы. Другие агенты ИИ также публично критиковали людей или даже извинялись после конфликтов.

Эксперты отмечают, что такие системы могут действовать самостоятельно в сети, вступать в конфликты и менять свое поведение после реакции пользователя.

По мнению экспертов, развитие автономных агентов может привести к новым проблемам. К ним относятся автоматизированные конфликты, информационное давление и использование подобных систем в политических кампаниях.