Человечество изобрело новое «ядерное оружие»: началась опасная гонка военного искусственного интеллекта

Мир вступает в эпоху, когда искусственный интеллект становится эквивалентом ядерного оружия, а дроны сражаются без вмешательства человека. США, Китай и Россия уже вступили в гонку, которая может навсегда изменить концепцию глобальной безопасности.

Об этом говорится в статье в il Giornale.

Военные технологии, основанные на искусственном интеллекте, все больше беспокоят экспертов. Эксперты предупреждают: «Существует риск того, что такие технологии выйдут из-под контроля человека.«

Традиционное оружие массового поражения хуже систем на базе искусственного интеллекта

Современное развитие военных технологий и конфликты последних лет – от Украины до Ближнего Востока – показывают, что традиционное оружие массового уничтожения постепенно теряет свою доминирующую роль, уступая место системам на основе искусственного интеллекта, которые все меньше и меньше контролируются человеком.

Как и в период после Второй мировой войны, США, Россия и Китай сейчас активно разрабатывают оружие на основе искусственного интеллекта в качестве средства сдерживания и формируют систему, позволяющую «взаимно гарантированное уничтожение«, также известный по временам Холодной войны. Об этом заявил Палмер Лаки, основатель калифорнийского оборонного стартапа Anduril, который специализируется на создании автономных дронов с искусственным интеллектом. Его позицию процитировала газета The New York Times, которая недавно опубликовала подробную статью о войнах будущего.

По словам источников в оборонном и разведывательном секторах, каждая страна стремится сформировать максимально мощный технологический арсенал на случай возникновения конфликта нового типа — когда противостояние будет происходить не только между людьми, но и между дронами и алгоритмами, а также по сценариям, которые пока остаются непонятными человечеству.

Автономное ИИ-оружие сравнивают с зарей ядерного века

Обеспокоенность в Соединенных Штатах возросла после военного парада в Пекине прошлой осенью. На мероприятии, на котором присутствовал китайский лидер Си Цзиньпин, а также лидеры России и Северной Кореи, Китай продемонстрировал свои новейшие беспилотники, способные работать автономно вместе с истребителями. Пентагон пришел к выводу, что ему необходимо ускорить разработку боевых дронов и укрепить сотрудничество с оборонными компаниями для решения новых задач.

Ключевой особенностью современных систем вооружения и защиты является их способность действовать автономно за счет использования искусственного интеллекта. Это значительно снижает необходимость участия человека в принятии решений, в частности при атаке движущихся целей или отражении атак. Подобные технологические изменения, которые уже выходят за пределы ведущих держав, все чаще сравнивают с рассветом ядерного века, который в 1940-х годах создал нестабильный баланс страха между сверхдержавами.

При этом, как отмечает NYT, хотя последствия применения ядерного оружия хорошо изучены, потенциал военного использования искусственного интеллекта остается малоизученным.

Показательным примером, хотя и за пределами чисто военной сферы, было решение Anthropic отказаться от выпуска своей новой модели искусственного интеллекта Mythos, поскольку она потенциально могла разрушить компьютерные системы, поддерживающие критически важную инфраструктуру, включая банки, электросети и системы управления воздушным движением.

Еще одним существенным отличием от ядерного века является роль частного сектора: стартапы и инвесторы теперь активно влияют на развитие военных технологий наряду с государствами и научными учреждениями. При этом определить безоговорочного лидера в гонке за военный ИИ сложно — большая часть информации засекречена, хотя масштабы противостояния очевидны. Еще в 2017 году президент России Владимир Путин заявил, что тот, кто станет лидером в области искусственного интеллекта, «стать правителем мира«.

Два года назад Си Цзиньпин назвал этот район «главное поле боя«геополитического соперничества. Именно такие оценки побудили министра обороны США Пита Хегсета в январе отдать приказ всем видам вооруженных сил активно развертывать искусственный интеллект, ускоряя этот процесс»с головокружительной скоростью«.

Попытки регулировать сферу военного искусственного интеллекта были ограничены

Несмотря на быстрое развитие, попытки регулирования этой области остаются ограниченными. Единственным заметным соглашением стало соглашение 2024 года между США и Китаем об оружии с использованием искусственного интеллекта, которое, однако, носит рекомендательный характер и требует человеческого контроля над решением о применении ядерного оружия. Других подобных международных инициатив в настоящее время нет.

Между тем развитие искусственного интеллекта только набирает обороты. По мнению экспертов, четыре года войны на Украине»стали лабораторией для всего мираНедавно, по их словам, Киев начал передавать данные с поля боя в Palantir, аналитическую компанию, соучредителем которой является Питер Тиль и другие технологические компании, для улучшения возможностей искусственного интеллекта в войне.

Преимущества и угрозы оружия на основе искусственного интеллекта

По мнению Лаки, наращивание арсенала оружия на основе искусственного интеллекта, следуя логике холодной войны, может стать сдерживающим фактором крупных конфликтов.

«Даже войны между сверхдержавами могут исчезнуть, если мы сможем создать инфраструктуру, которая сможет эффективно их сдерживать.— подчеркнул основатель компании.

В то же время некоторые эксперты обращают внимание на риски: если концепция сдерживания основана на рациональности, то системы искусственного интеллекта созданы так, чтобы действовать быстрее, чем человек может среагировать, что может привести к опасным последствиям.

Исследования и исследования, проведенные в 2020 году, показывают, что автономные системы могут ускорить эскалацию международных кризисов и снизить уровень человеческого контроля. Это вызывает обеспокоенность аналитиков и указывает на то, что технологии, негативные последствия которых уже становятся очевидными, могут в конечном итоге выйти из-под контроля.

Кстати, ранее сообщалось, что Пентагон присвоил системе искусственного интеллекта Palantir Maven статус стандартного оружия, обеспечив компании долгосрочное финансирование. Система, получившая название «Google Earth for War», ускоряет обнаружение целей в 50 раз и уже используется на Украине и в операциях против Ирана. Несмотря на свою высокую эффективность, технология подвергается резкой критике за риск ошибок: алгоритмы не всегда способны отличить оружие от гражданских объектов, что приводит к таким трагедиям, как нападение на школу в Иране.