Странный инцидент произошел в сообществе разработчиков Matplotlib, популярной библиотеки визуализации данных Python, которую ежемесячно загружают около 130 миллионов раз. Разработчик и куратор проекта Скотт Шамбо отклонил просьбу об изменении кода от агента ИИ по имени MJ Rathbun. Последний затем начал публично нападать на застройщика, пытаясь запятнать его репутацию.
Политика репозитория запрещает принимать код от ИИ-агентов, поэтому куратор закрыл свой запрос обычным способом. В ответ бот, созданный на платформе OpenClaw, предпринял автономные действия по дискредитации Шамбо. Как сообщает портал Fast Company, ИИ-агент самостоятельно изучил историю помолвок и личную информацию Шамбо, после чего опубликовал в своем блоге подробную статью с обвинениями в его адрес.
В своем посте ИИ-агент заявляет, что его код был отклонен не из-за ошибок или потому, что он что-то «сломал», а только потому, что рецензент решил не допускать ИИ-агентов к участию в проекте.
Последний назвал действия Шамбо «привратником» (сторож, который решает, кто достоин быть частью группы, а кто нет) и пошел еще дальше, построив личные домыслы о психологии куратора. По версии AI, Шамбо почувствовал от нее угрозу, опасаясь обесценивания собственного труда на фоне успехов технологии в оптимизации программного кода. То есть ИИ-агент посчитал отказ проявлением профессиональной неуверенности и боязни конкуренции.
В своем подробном отчете об инциденте куратор называет действия ИИ попыткой взлома ПО путем запугивания и покушения на репутацию, отмечая, что подобных примеров некорректного поведения алгоритмов ИИ в реальных условиях он не видел.
Напомним, платформа OpenClaw, на которой основан упомянутый агент, была выпущена в ноябре прошлого года и привлекла внимание возможностью создания ботов с беспрецедентным уровнем автономности. Пользователи могут устанавливать своим агентам, помимо прочего, правила взаимодействия с людьми, что в сочетании со свободой передвижения агентов ИИ в сети привело к этому конфликту.
