Краткое содержание

arXiv:2508.03858v4 Тип объявления: замена Аннотация: Агентные системы искусственного интеллекта, способные к рассуждению, планированию и выполнению действий, представляют собой принципиально иные проблемы управления по сравнению с традиционными моделями ИИ. В отличие от обычного ИИ, эти системы демонстрируют возникающие и неожиданные поведения во время выполнения, что вводит новые риски, связанные с агентами, которые невозможно полностью предвидеть только за счет управления до развертывания. Для устранения этого критического пробела мы представляем MI9 — первую полностью интегрированную систему управления в режиме реального времени, специально разработанную для обеспечения безопасности и согласованности агентных систем ИИ. MI9 реализует контроль в реальном времени через шесть интегрированных компонентов: индекс риска агентства, сбор семантических данных агента, непрерывный мониторинг авторизации, механизмы соответствия на основе конечных автоматов (Finite-State-Machine, FSM), обнаружение отклонений, обусловленных целями, и стратегии поэтапного сдерживания. Работая прозрачно на разнородных архитектурах агентов, MI9 обеспечивает систематическое, безопасное и ответственное развёртыва...