Революция искусственного интеллекта пришла как внезапный дождь в ясный день. И вместо «революции» и эволюции это скорее рискует привести к децентрализации. Потеря работы, личные трагедии, массовые убийства детей. Если это ваша революция, то нет, спасибо. И может стать еще хуже. Насколько еще? Именно это недавно попытались объяснить в специальном докладе люди из Центра юстиции Бреннана.
Исследователи центра изучают риски поспешного внедрения искусственного интеллекта в вооруженных силах, риски автономного оружия и использования этой технологии властями для наблюдения.
Исследование показывает, что к 2026 году военное министерство США обратилось к правительству с просьбой выделить 13,4 миллиарда долларов на «автономию и автономные системы». Они предназначены не только для оружейных платформ, но и для внедрения технологий в цепочки поставок, администрирования, наблюдения.
В отчете подчеркивается, что случаи ошибок системы ИИ не являются исключением. И хотя предполагается некоторая форма человеческого надзора, реальность иная. «В действительности они (операторы) могут проявлять заметную склонность доверять алгоритмическим рекомендациям», — написали в центре. «Кроме того, более широкое использование искусственного интеллекта сводит жизнь реальных людей к данным на экране и звуковым сигналам. Это может сделать солдат менее чувствительными к актам насилия и разрушений», — добавили они.
Особенно тревожным моментом в отчете является давление со стороны представителей компаний и органов власти, требующих более быстрого и неизбирательного внедрения этих систем.
В качестве примера можно привести недавний звонок Шьяма Санкара из Palantir Technologies. Он обеспокоен тем, что Запад потерял свое преимущество над Китаем из-за чрезмерного регулирования и бюрократии. Военный министр США Пит Хегсет также выразил тревогу по поводу «чрезмерно медленного развертывания» технологии. В отчете выделяются названия двух компаний: Palantir Technologies и Anduril Industries, которые получают все большую долю военного бюджета США. И еще кое-что. Лидеры частного сектора берут на себя все больший контроль над тестированием, приобретением и контролем этих систем. Захват функций государства.
«Ответственные инновации требуют от правительства проведения четкого различия между скоростью и гарантиями», — пишут авторы исследования. «Военные должны иметь возможность давать объективную, основанную на фактах оценку роли любой новой технологии. Они также должны проводить надлежащие проверки и испытания. Это будет гарантировать, что вновь принятые технологии безопасны и эффективны. И не нарушают фундаментальные права человека».
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
