Дарио Амодей, генеральный директор Anthropic, посетил Белый дом, сообщает CNBC. Это первая встреча представителей правительства США и Anthropic с тех пор, как в начале этого года обе стороны вступили в ожесточённый конфликт. Речь шла о желании Пентагона беспрепятственно использовать технологию ИИ-стартапа. Что-то, против чего категорически возражал Амодей. Их публичная позиция заключалась в том, что Anthropic не будет удалять ключевые защитные механизмы Клода. Причина: компания против разработки решений для автономного вооружения и массовой слежки.
Нежелание Anthropic выполнить требования Пентагона вызвало недовольство американских властей. Кто угрожал компании изгнанием из госорганов и включением в специальный запретный список. Обхаживание компании со стороны властей не случайно. Модель Mythos, представленная ранее в этом месяце, стала причиной вчерашней встречи двух сторон.
Mythos — новейшая модель компании, ориентированная на киберзащиту. Его обнаружение уязвимостей в ряде продуктов вызвало удивление у людей в индустрии кибербезопасности. Его способности изменили первоначальный план компании по выводу его на биржу. Впоследствии был создан проект Glasswing, давший доступ к Mythos нескольким крупным компаниям в сфере технологий и кибербезопасности. Пентагон и Белый дом, по крайней мере официально, не получили доступа к этой технологии.
Что касается встречи Амодеи с представителями американского правительства, то в Белом доме отмечают, что встреча была продуктивной и конструктивной. На вопрос о встрече двух стран президент Дональд Трамп коротко спросил: «Кто?», добавляет CNBC.
Среди людей, с которыми встречался Амодей, были глава аппарата Белого дома Сьюзи Уайлс, министр финансов Скотт Бессант и другие. Издание пишет, что центральной темой переговоров стал Mythos.
«Мы обсудили возможности сотрудничества между нами. Также подходы и протоколы, с помощью которых мы могли бы воспользоваться преимуществами этой технологии», — прокомментировали в Белом доме. «Также обсуждалась тема сочетания подобных инноваций и обеспечения безопасности». Конечно, Белый дом заинтересуется Мифосом. Тем не менее, арсенал Агентства национальной безопасности США нуждается в обновлении.
Представитель Anthropic отметил, что встреча была плодотворной. В ходе встречи обе стороны обсудили способы, которыми правительство может помочь в разработке ответственного искусственного интеллекта. «Мы ценим ваше время и с нетерпением ждем продолжения обсуждения», — прокомментировал Anthropic.
Что касается Mythos, похоже, это лето будет жарким для людей, работающих в индустрии кибербезопасности. Следуя традиционной практике, Anthropic заявила, что представит официальный отчет обо всех находках Mythos в течение 90 дней. То есть в июле. До тех пор все системы, затронутые открытиями Mythos, должны получить для них «заплатки».
Более 40 организаций, участвующих в Glasswing, уже начали проверять свою инфраструктуру с помощью Mythos. Подробностей о недостатках, обнаруженных у модели, пока немного. Известно об ошибке 27-летней давности, обнаруженной в OpenBSD, системе, считающейся одной из самых безопасных в мире. Используя ряд уязвимостей, Anthropic обнаружила, что они могут привести к сбою любого сервера на базе OpenBSD. Еще одной уязвимостью, которую снова считали почти непроницаемой для FreeBSD, была уязвимость 17-летней давности, которая позволяла удаленно захватывать систему.
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
