Компания Microsoft представила новые функции безопасности, предназначенные для защиты корпоративных клиентов от рисков, связанных с использованием искусственного интеллекта и автономных агентов. Главной новинкой стали агенты мониторинга, получившие название Guardian Agents.
Функция Guardian Agents создана для отслеживания работы ИИ-агентов внутри корпоративной инфраструктуры. Решение входит в состав платформы Project Perception, которую Microsoft запустила в июне в качестве ответа на появление мощных моделей от сторонних разработчиков. Изначально проект включал три типа агентов: модели для атак методом красных команд, инструменты для поиска уязвимостей и системы для их исправления. Теперь к ним добавились средства постоянного контроля.
Ранее по теме: Microsoft расширила защиту корпоративных ИИ-агентов.
Глава Microsoft Сатья Наделла ранее обратил внимание на то, что угрозы со стороны искусственного интеллекта могут исходить от систем, которые компании развертывают и оплачивают сами. Подобные агенты способны действовать подобно неконтролируемым сотрудникам внутри организации. Наделла отметил необходимость отделять поставщиков интеллектуальных возможностей от систем контроля и не доверять полностью гарантиям безопасности со стороны разработчиков моделей.
Ранее по теме: NVIDIA расширяет сотрудничество с EBU и Adobe в сфере медиатехнологий.
Руководитель направления безопасности в Microsoft Хайет Галлот пояснила, что передовые модели не всегда поддаются полному прогнозированию из-за того, что их обучают выполнению задач, а не следованию внутренним регламентам организации. Поскольку такие агенты имеют доступ к конфиденциальным данным и могут выполнять ключевые бизнес-процессы, их неконтролируемая работа способна нанести ущерб.
В рамках обновления Microsoft также добавила в систему Microsoft Defender функцию обнаружения ИИ-агентов, способную распознавать до 60 различных инструментов, используемых сотрудниками, включая Claude Code, Codex и OpenClaw. Новые возможности позволяют ограничивать доступ агентов к данным, динамически настраивать права в зависимости от текущих задач и запрашивать ручное подтверждение перед выполнением операций с высоким уровнем риска.
Кроме того, Microsoft стала участником открытой платформы безопасности для агентов от NVIDIA, которая объединила более 100 технологических компаний и использует аппаратные средства для изоляции потенциально опасных процессов.
Обсуждение в Telegram ↗