Глава Anthropic встретится с руководителем аппарата Белого дома на фоне обеспокоенности по поводу новой модели искусственного интеллекта Mythos, способной обнаруживать уязвимости в программном коде. По данным компании, эта модель ИИ уже обнаружила тысячи недостатков во всех основных операционных системах и браузерах, а сейчас ее возможности изучают чиновники из окружения президента США.
Встреча Дарио Амодеи с руководителем аппарата Белого дома Сьюзи Уайлс проходит на фоне острых противоречий: администрация одновременно пытается занести Anthropic в черный список и вынуждена сотрудничать с ней по вопросам кибербезопасности. Представители Белого дома и Национального института стандартов и технологий (НИСТ) анализируют последствия релиза Mythos и рассматривают возможность расширения доступа к модели для федеральных агентств, согласно внутренней переписке, полученной The Washington Post. Особую озабоченность вызывают Уайлс, вице-президент Джей Ди Вэнс и министр финансов Скотт Бессент, сообщил источник, знакомый с ходом переговоров.
Anthropic не обнародовала свою модель искусственного интеллекта и сформировала коалицию крупных технологических корпораций для оценки рисков в рамках инициативы Project Glasswing. Компания заранее уведомила государственные органы кибербезопасности.
«Учитывая темпы развития ИИ, пройдет очень мало времени, прежде чем такие возможности станут широко распространены — вероятно, среди тех, кто не намерен использовать их ответственно. Последствия для экономики, общественной и национальной безопасности могут быть серьезными».
говорится в официальном заявлении компании
Тем временем OpenAI почти завершила разработку собственного ИИ следующего поколения под кодовым названием Spud. Федеральные агентства отреагировали быстро. Бессент и председатель Федеральной резервной системы Джером Пауэлл собрали глав крупнейших банков в Вашингтоне, призвав их серьезно отнестись к угрозам.
Anthropic стала первой крупной компанией в области искусственного интеллекта, получившей доступ к секретным системам федеральных агентств. Отношения испортились, когда Пентагон потребовал права использовать Клода в любых законных целях, включая автономный контроль над вооружением и массовое наблюдение. Амодей отказался, но позже встретился с министром обороны Питом Хегсетом, но в конце февраля переговоры зашли в тупик.
Суд Сан-Франциско признал черный список компании незаконным, однако апелляционный суд Вашингтона вынес временное постановление, оставив запрет в силе. Несмотря на официальный разрыв связей с Пентагоном, Клод оставался интегрированным в военные системы, поэтому в ту же ночь администрация объявила о прекращении сотрудничества, модель ИИ была использована для поддержки авиаударов по Ирану. Чтобы восстановить отношения с Белым домом, Anthropic в марте наняла лоббиста Брайана Балларда, имеющего тесные связи с командой президента, за 130 тысяч долларов.
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
