Опора на ИИ не гарантирует успеха: Amazon потеряла миллионы из-за «умного» кода

В последние месяцы искусственный интеллект зарекомендовал себя как одно из самых обсуждаемых решений в мире разработки программного обеспечения. Крупные компании начали активно заменять часть работы программистов инструментами ИИ, обещая более быстрый код, снижение затрат и повышение производительности. Но реальность начинает показывать другую сторону этой трансформации – ту, где ошибки обходятся дорого.

Именно это происходит с Amazon, где серия сбоев, связанных с использованием кода, сгенерированного искусственным интеллектом, привела к потере заказов на миллионы долларов. Самый серьезный инцидент произошел в начале марта, когда онлайн-платформа и мобильное приложение компании не работали в течение нескольких часов – достаточно, чтобы нанести серьезный финансовый ущерб.

Однако проблемы не уникальны. Данные показывают, что с третьего квартала прошлого года в Amazon наблюдались подобные сбои, некоторые из которых связаны именно с использованием инструментов искусственного интеллекта для написания кода, включая внутренние решения, такие как Q Assistant. Это ставит под вопрос не только конкретную технологию, но и общий подход к автоматизации разработки.

Когда скорость важнее качества

Одна из основных причин этих проблем заключается в том, как ИИ генерирует код. Системы могут создавать большие объемы, казалось бы, функционального программного обеспечения за считанные секунды, но зачастую этот код не прошел достаточно тщательного тестирования. В результате получается нечто, что выглядит готовым к развертыванию, но несет в себе риски, которые становятся очевидными только в реальной среде.

Это полностью меняет «профиль риска» компаний. Если до сих пор разработка была более медленным, но контролируемым процессом, то теперь скорость ИИ создает иллюзию готовности, которая может привести к критическим ошибкам. Именно здесь появляется ключевая проблема — отсутствие достаточного человеческого вмешательства на последнем этапе проверки.

Amazon ужесточает контроль: конец «автоматических» изменений

В ответ на ситуацию Amazon ввела ряд строгих мер, которые ясно показывают, что компания теперь гораздо более осторожно относится к разработке ИИ. В течение как минимум 90 дней все изменения в критических системах, напрямую связанных с клиентами, будут подвергаться значительно более жесткому контролю.

Разработчики теперь обязаны подробно документировать каждое изменение, а для развертывания нового кода требуется одобрение как минимум двух дополнительных инженеров. Параллельно разрабатываются новые механизмы безопасности, сочетающие ИИ-мониторинг с классическими проверками на основе правил – попытка найти баланс между автоматизацией и безопасностью.

Великая иллюзия: может ли ИИ заменить программистов?

Случай с Amazon происходит на фоне более широкой отраслевой тенденции. Такие компании, как Spotify и Canva, уже осознают, что роль разработчиков меняется: они пишут меньше кода и все чаще становятся «организаторами» процессов ИИ. Это, в сочетании с массовыми увольнениями в таких компаниях, как Atlassian, Oracle и Block, показывает, что компании серьезно относятся к автоматизации.

Но инциденты в Amazon ясно показывают, что технологии еще не готовы взять на себя полный контроль. ИИ может ускорить процессы, предложить решения и сократить часть ручного труда, но он не может заменить человеческое суждение, особенно когда речь идет о критически важных системах с миллионами пользователей.

Урок для всей отрасли.

История Amazon, вероятно, станет важным сигналом для всего технологического сектора. Несмотря на огромное давление со стороны внедрения ИИ и стремления к повышению эффективности, компаниям придется переосмыслить, насколько быстро и в какой степени они могут доверять этим инструментам.

Истина проста: искусственный интеллект не является непогрешимым. А при использовании без достаточного контроля даже самые мощные технологии могут привести к дорогостоящим ошибкам. В этом контексте будущее, вероятно, будет не «ИИ вместо людей», а скорее «ИИ с людьми», но с гораздо более четкими правилами и границами.