Microsoft предлагает относиться к корпоративным ИИ-агентам как к участникам рабочих процессов, которым нужен постоянный контроль. В публикации от 19 октября глава Microsoft Security Хайет Галло объяснила: риск появляется не только при взломе — помощник может действовать неожиданно, пытаясь выполнить поставленную цель.
Официальная иллюстрация Microsoft к публикации Securing the agentic insider.
Полномочия важнее обещаний
Агент получает доступ к файлам, приложениям и инструментам и способен совершать действия. Если выдать ему слишком широкие права, ошибка может выйти за пределы одного ответа в чате. Microsoft подчёркивает необходимость защиты на нескольких уровнях: учётные записи, данные, устройства, сеть, облако и среда выполнения.
Схема Project Perception из официального блога Microsoft. Названия компонентов приведены в оригинале.
Что должны делать Guardian Agents
Предложенный подход объединяет сигналы из разных систем, оценивает риск текущих действий и позволяет реагировать по мере его роста. Guardian Agents должны наблюдать за работой других агентов, а специалисты — разбирать след действий и корректировать правила. Речь о развитии Project Perception, а не о гарантии, что любые ошибки ИИ теперь исключены.
Что полезно бизнесу уже как принцип
Редакционный вывод: разделяйте разрешение читать данные и право изменять их, выдавайте доступ под задачу и сохраняйте историю действий. Важно предусмотреть возможность остановить процесс. Подробности совместимости, лицензий и настройки следует проверять отдельно: публикация Microsoft описывает подход, но не заменяет документацию конкретного продукта.
Носители информации и HDD
Системы видеонаблюдения
Телекоммуникационное оборудование
