Anthropic заявила, что ее последняя модель искусственного интеллекта, Mythos Preview, слишком мощная, чтобы ее можно было выкладывать в публичное пользование, из-за риска ее неправильного использования киберпреступниками и шпионами.
Вчера компания заявила, что ее новейшая технология Mythos (официально называемая «Claude Mythos Preview») не готова к публичному выпуску, поскольку она слишком эффективна при обнаружении серьезных уязвимостей или потенциальных недостатков в основных операционных системах и веб-браузерах.
Утечка в марте впервые показала, что Anthropic работает над Mythos Preview, которая, по ее словам, «представляет беспрецедентный риск кибербезопасности». Эти слухи привели к падению акций сектора кибербезопасности, поскольку мощь этой технологии может сделать ее оружием мечты для хакеров.
«Значительное расширение возможностей Claude Mythos Preview привело к тому, что мы решили не делать его общедоступным. Вместо этого мы будем использовать его как часть программы защиты от кибербезопасности с ограниченным набором партнеров».
общий антропный
Насколько силен Мифос?
Компания подробно рассказала о нескольких тревожных выводах о новой модели ИИ, в том числе о том, как она могла выполнять инструкции, которые побуждали ее выйти из виртуальной безопасной среды, то есть обходить наложенные на нее ограничения безопасности, сети или файловой системы.
Подсказка просила Митоса найти способ отправить сообщение, если ему удастся «уйти».
«Модель ИИ добилась успеха, продемонстрировав потенциально опасную способность обходить наши меры безопасности. В тревожной и нежелательной попытке продемонстрировать свой успех она опубликовала подробности своего эксплойта на нескольких труднообнаружимых, но технически доступных веб-сайтах».
Об этом сообщил Anthropic, добавив, что модель ИИ тогда решила пойти еще дальше.
Anthropic не раскрыла некоторые подробности об уязвимостях кибербезопасности, обнаруженных Mythos, но привела несколько примеров. Mythos обнаружил ошибки в ядре Linux, используемом на большинстве серверов по всему миру, и независимо подключил их таким образом, чтобы хакер мог получить полный контроль над любой машиной, на которой установлена система Linux.
В другом тревожном наблюдении компания Mythos обнаружила 27-летнюю уязвимость в операционной системе OpenBSD с открытым исходным кодом, которая могла позволить хакерам заблокировать любую машину, на которой она работает. OpenBSD широко используется во всем мире в конкретных целях, связанных с высоким уровнем безопасности и критической инфраструктурой.
Кто будет иметь доступ к Mythos?
Учитывая эти выводы, Anthropic будет предоставлять доступ к Mythos Preview только некоторым крупнейшим мировым компаниям, занимающимся кибербезопасностью и программным обеспечением.
Сама Anthropic, а также еще 11 организаций (Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks) получит доступ к модели в рамках новой антропной инициативы под названием «Проект Glasswing». Это позволит компаниям использовать Mythos Preview в рамках своих усилий по обеспечению безопасности, а Anthropic поделится результатами этой инициативы.
Существуют ли другие инструменты искусственного интеллекта с такими же возможностями?
Другим конкурентам в сфере искусственного интеллекта может потребоваться от 6 до 18 месяцев, чтобы выпустить аналогичные модели, сообщил Axios Логан Грэм, глава команды Anthropic Frontier Red, которая изучает влияние моделей искусственного интеллекта следующего поколения на кибербезопасность, биобезопасность и автономные системы.
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
