Anthropic заявила, что не согласится на просьбу Министерства обороны США разрешить неограниченное использование ее моделей искусственного интеллекта, несмотря на угрозы расторгнуть контракты и признание компанией фактора риска в цепочке поставок.
По данным американских СМИ, искусственный интеллект Anthropic мог быть использован в рамках сотрудничества с Palantir во время операции в Каракасе 3 января. ИИ мог быть использован для анализа и планирования разведданных во время операции по задержанию президента Николаса Мадуро и его жены, сообщается. Официально Пентагон не раскрывает подробностей.
Сообщения об этой операции стали катализатором напряженности между Anthropic и Министерством обороны США. У компании есть контракт с Пентагоном на сумму около 200 миллионов долларов, но ее политика ограничивает использование моделей ИИ для насилия, массовой слежки или полностью автономного оружия.
В своем заявлении генеральный директор Anthropic Дарио Амодей сообщил, что модели искусственного интеллекта компании уже активно используются в оборонных и разведывательных службах США. Компания также утверждает, что первой среди разработчиков передового искусственного интеллекта развернула свои системы в секретных правительственных сетях и национальных лабораториях.
При этом Anthropic отказывается снимать ограничения на две категории использования.
Первый — это массовая внутренняя слежка за гражданами, которая, по мнению компании, несовместима с демократическими ценностями и создает серьезные риски для конфиденциальности. Второе — создание или управление полностью автономным оружием, способным перехватывать и поражать цели без вмешательства человека.
Компания утверждает, что нынешние системы искусственного интеллекта еще недостаточно надежны для такого использования и могут представлять опасность как для военных, так и для гражданского населения. Anthropic готова работать над повышением надежности технологии, но только при условии соответствующего контроля и ограничений.
По словам Амодеи, министерство объявило, что будет подписывать контракты только с компаниями, которые согласны на «любое законное использование» ИИ без ограничений. Также высказывались угрозы исключить Anthropic из государственных систем, объявить его угрозой поставок и использовать Закон об оборонном производстве для принудительного снятия ограничений.
В Anthropic подчеркивают, что, несмотря на разногласия, они хотели бы продолжить работу с правительством США и обеспечат плавный переход на другие технологии без срыва военных операций.
//БОЛЬШЕ ПО ТЕМЕ:
ИИ нажимает кнопку ядерного оружия в 95% случаев
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
