Anthropic создает глобальный консорциум для защиты от киберугроз ИИ нового поколения

Anthropic представила новую модель искусственного интеллекта Предварительный просмотр мифов и объявил о создании промышленного консорциума под названием Проект Стеклянное Крылов которую входят Microsoft, Google, Apple и более 40 других крупных компаний. Целью организации будет подготовка к новым киберугрозам, исходящим от передовых систем искусственного интеллекта.

По данным Wired, модель Mythos Preview изначально не будет доступна широкой публике. Членам консорциума будет предоставлен частный доступ для тестирования своих систем и устранения уязвимостей, которые может обнаружить модель. По словам Дарио Амодеи, генерального директора Anthropic, модель не была специально подготовлена ​​для обеспечения кибербезопасности, но ее навыки программирования сделали ее эффективной при обнаружении уязвимостей.

Руководитель группы антропных испытаний Логан Грэм заявил, что модель Mythos Preview представлена ​​на уровне Senior Security Professional и способен разрабатывать цепочки атак, тестировать на проникновение и анализировать программное обеспечение без доступа к исходному коду. По его мнению, бездумный публичный обнародование всех возможностей этой модели ИИ может существенно ускорить и укрепить позиции киберпреступников.

Антропик заявил, что модель уже обнаружила тысячи критических уязвимостей, включая ошибки, которые десятилетиями оставались незамеченными даже в тщательно протестированном коде. Компания применила принципы скоординированного раскрытия информации, дав разработчикам время удалить их перед публичным обсуждением проекта.

Члены консорциума, в том числе Amazon, Nvidia, Cisco, Linux Foundation и Broadcom, поддержали инициативу. Глобальный директор Microsoft по информационной безопасности заявил, что участие в проекте Glasswing поможет выявить риски на ранней стадии. В свою очередь Грэм подчеркнул, что проект должен выйти за пределы нынешнего круга участников, иначе глобальная цель не будет достигнута.