Программист доверил управление своими ресурсами Клоду Коду — ИИ полностью удалил два сайта и базу данных

Агенты искусственного интеллекта, которые помогают писать программный код, такой как Claude Code, на антропный они никогда не дают 100% гарантии результата, а в отдельных случаях возможны неприятные инциденты, например, удаление данных. Однако в случае с разработчиком Алексеем Григорьевым виновником оказался не искусственный интеллект, а человеческий фактор.

Разработчик решил перенести свой сайт в облачную инфраструктуру Amazon Web Services (АВС), где уже находился другой его ресурс. Клод Код не рекомендовал этот вариант, но Григорьев посчитал, что поддерживать две конфигурации слишком трудоемко. Для управления инфраструктурой он выбрал инструмент Terraform, поддерживающий создание (а также удаление) ресурсов со всеми настройками, включая сети, базы данных и сами серверы. Алексей попросил Клода Кода выполнить план настройки нового сайта, но забыл загрузить статусный файл с полным описанием текущей конфигурации.

В результате ИИ-агент выполнил команду разработчика и создал контейнер для переноса сайта, но специалист остановил процесс на полпути. Из-за отсутствия файла состояния ресурсы начали дублироваться. Разработчик приказал определить дублирующиеся ресурсы, чтобы исправить ситуацию, а затем все равно загрузил файл состояния, думая, что разобрался в проблеме. Алексей предполагал, что ИИ-агент продолжит удалять дублирующиеся ресурсы, а затем откроет файл состояния, чтобы узнать, как следует настроить платформу. Имея доступный файл состояния, Клод Код последовал инструкциям Terraform, выполнив операцию «уничтожения» (разрушать) для подготовки к установке на месте.

Учитывая, что в установочном файле фигурировал другой ресурс, который уже был на AWS, ИИ привел к удалению обоих сайтов, включая базу данных с записями за 2,5 года, которые использовались в качестве резервных копий. Чтобы устранить проблему, разработчику пришлось обратиться в техподдержку Amazon, которая помогла восстановить данные в течение суток.

Описывая инцидент, он указал на ряд мер, которые он принял для предотвращения повторения подобных инцидентов. Он настроил периодическую проверку восстановления базы данных, включил защиту от удаления в Terraform и AWS и переместил файл состояния в хранилище S3, чтобы он не хранился на его компьютере. Алексей признался, что слишком полагался на ИИ-агента при выполнении команд в Terraform, и на будущее решил выполнять все операции по удалению данных самостоятельно. Он не обвинял AI в инциденте.