Недавно руководители Microsoft неоднократно заявляли, что в будущем в Windows 11 будет больше агентов искусственного интеллекта, которые будут выполнять различные задачи. Однако во внутренней документации компании указано, что такие алгоритмы могут вызывать галлюцинации (предоставлять ложную информацию), действовать непредсказуемо и стать инструментом новых хакерских атак. Несмотря на все это, софтверный гигант продолжает внедрять функции на основе агентов искусственного интеллекта в Windows 11.
Если Microsoft считает, что агенты ИИ настолько опасны, что им требуются отдельные учетные записи, изолированные сеансы и журналы аудита для защиты от несанкционированного доступа, то трудно объяснить, почему Windows 11 становится полигоном для тестирования этой технологии.
Важно отметить, что это происходит на фоне того, что пользователи операционных систем все больше устают от повсеместного распространения функций на основе ИИ. В середине октября Microsoft объявила, что каждый компьютер с Windows 11 в конечном итоге станет ПК с искусственным интеллектом. Компания анонсировала одновременно несколько интеграций ИИ, которые должны позволить технологии «общаться» с компьютером, показывать ИИ содержимое экрана и давать ему указания действовать от его имени. По сути, Microsoft хочет, чтобы пользователи заменили нажатия клавиш и щелчки мыши естественным языком. Первоначально это было реализовано за счет внедрения Copilot Voice и Copilot Vision, а также Copilot Actions.
Недавние изменения в операционной системе превратили панель задач Windows 11 в своего рода центр подсистемы искусственного интеллекта. Поле поиска было заменено интерфейсом Ask Copilot, который позволяет запускать агенты AI или помощника Copilot одним щелчком мыши или текстовой командой.
После включения агенты ИИ будут выполнять задачи в фоновом режиме, и пользователь сможет отслеживать процесс прямо на панели задач, как если бы это были обычные приложения. Хотя агенты ИИ не являются обязательными, а их функциональность сильно ограничена, дорожная карта Microsoft ясно дает понять, что они являются следующим ключевым этапом разработки Windows.
Положительным моментом является то, что Microsoft не пытается представить эти инновации как полностью безопасные. В официальной документации компании говорится, что агенты ИИ «имеют функциональные ограничения в своем поведении, иногда могут галлюцинировать и давать непредсказуемые результаты».
Кроме того, агенты ИИ уязвимы для атак с быстрым внедрением (XPIA), а также к вредоносным подсказкам и вредоносному ПО. Одним из самых больших рисков, которые видит Microsoft, являются атаки XPIA, когда злоумышленник скрывает вредоносные инструкции в элементах пользовательского интерфейса, документах или приложениях, с которыми взаимодействует ИИ-агент. Такой подход может позволить перенаправить первоначальные инструкции агента и заставить его выполнять вредоносные действия, такие как копирование конфиденциальных данных.
Исследователи информационной безопасности уже предупредили, что агенты с графическим интерфейсом уязвимы для атак такого типа. Причина этого в том, что агентам предоставляется высокий уровень привилегий устройства для выполнения своих задач. Microsoft осознает это, но не отказывается от идеи дальнейшего внедрения агентов с искусственным интеллектом. Очевидно, что пользователи, которые считали пресловутую функцию отзыва кошмаром для конфиденциальности, не будут довольны агентами ИИ, поскольку они представляют значительно большую угрозу.
Microsoft настаивает на том, чтобы агенты работали под отдельными учетными записями, имели ограниченные права и были защищены от внесения несанкционированных изменений в инструкции. В то же время компания предоставляет агентам права на чтение и запись в личные папки пользователя, такие как «Документы», «Загрузки», «Изображения», «Видео» и т. д.
Если Microsoft хочет, чтобы агенты ИИ взаимодействовали с приложениями и файлами, как реальные пользователи, она должна каким-то образом избежать разрушения системы под собственным весом.
Для этого разработчики создали рабочее пространство агента, которое является основой «операционной системы агента». Все, что обещала компания, включая алгоритмы искусственного интеллекта, которые могут взаимодействовать с приложениями, редактировать файлы, перемещать файлы и выполнять многоэтапные задачи, работает только потому, что Windows 11 может создавать изолированные сеансы для работы агентов искусственного интеллекта. Это не похоже на виртуальную машину, поскольку Agent Workspace — это параллельная среда Windows с собственной учетной записью, рабочим столом, деревом процессов и ограниченными правами.
Предоставление отдельного рабочего пространства для агентов ИИ — это первая попытка Microsoft предоставить им «место для существования» внутри Windows, сохраняя при этом вне пользовательского сеанса. Каждый агент получает отдельную учетную запись на компьютере, и Windows держит такие УЗ под контролем, разрешая только те действия, на которые явно дано разрешение пользователя. Подобные ограничения являются ответом Microsoft на опасения, о которых предупреждала сама компания.
В изолированном пространстве ИИ-агент взаимодействует с приложениями так же, как пользователь. Он может нажимать кнопки в интерфейсе, вводить текст в поля, прокручивать страницы, перемещать файлы и т. д. За логику этих действий отвечает ИИ. Он несет ответственность за логику этих действий. Функция Copilot Actions уже использует эту модель. Вместо того, чтобы обращаться к облачной модели искусственного интеллекта, например, для генерации текста, агент выполняет действия самостоятельно, используя программное обеспечение, установленное на компьютере.
Вот почему Microsoft выделяет для этой цели отдельные сеансы. Если ИИ-агент неправильно интерпретирует подсказку или любой объект, с которым он взаимодействует, содержит вредоносные инструкции, ущерб технически ограничивается пространством, которое контролирует Windows и в котором регистрируется каждое действие. Агентам также следует запретить проникновение в системные каталоги, хранилища учетных данных и папки приложений, где непреднамеренное чтение или запись может привести к снижению производительности продукта.
Чтобы начать взаимодействовать с ИИ-агентом, необходимо включить экспериментальные функции агента, которые по умолчанию отключены.
«Эта функция сама по себе не имеет возможностей искусственного интеллекта, это функция безопасности для таких агентов, как Copilot Actions. Включение этой опции позволяет вам создать отдельную учетную запись агента и рабочее пространство устройства, обеспечивая изолированную среду для отделения активности агента от активности пользователя».
говорится в описании Microsoft
Для контроля доступа Microsoft использует протокол Model Context Protocol, который позиционируется как мост между агентами и приложениями. Именно так агенты взаимодействуют с инструментами системы. MCP позволяет агенту ИИ обнаруживать инструменты, вызывать функции, читать метаданные файлов и взаимодействовать с сервисами. Это предотвращает прямой доступ и предоставляет Windows центральную точку контроля, где выполняется аутентификация, предоставление разрешений инструментам и т. д. Без MCP ИИ-агент был бы «слепым», а Workspace держит его в безопасных пределах.
Microsoft даже не рассматривает возможность отказа от внедрения искусственного интеллекта в Windows. Компания хочет сделать взаимодействие пользователя с ИИ максимально естественным. Ранее упомянутая функция отзыва была ярким примером того, как не следует использовать продукт искусственного интеллекта в настольной операционной системе. Негативная реакция пользователей была настолько ощутима, что Microsoft была вынуждена отложить выпуск этой функции, записывающей все действия пользователя в системе, перепроектировать ее и сделать необязательной.
Однако совершенно очевидно, что Microsoft сделала свой выбор. Выбор состоит в том, чтобы перепроектировать Windows 11 и интегрировать агентов, которые могут выполнять различные задачи. Компания достаточно смелая, чтобы осознавать риски, и достаточно уверенная в себе, чтобы двигаться вперед. Возможно, появление агентных операционных систем по сути неизбежно. Каждая крупная компания, занимающаяся искусственным интеллектом, движется к будущему, в котором искусственный интеллект будет делать больше, чем просто общаться с пользователями.
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
