Краткое содержание

arXiv:2503.00191v2 Тип объявления: замена-перекрёстная публикация Аннотация: Обеспечение безопасности автономных систем с управлением на основе визуальных данных остаётся серьёзной проблемой ввиду высокой размерности входных изображений и неизвестности связи между истинным состоянием системы и её визуальным представлением. Современные методы управления, основанные на обучении, в таких условиях зачастую не предоставляют формальные гарантии безопасности. Для решения этой проблемы мы предлагаем новый полувероятностный подход к верификации, который объединяет анализ достижимости состояний с условными порождающими сетями и свободными от распределения границами хвоста распределений, обеспечивая эффективный и масштабируемый способ проверки контроллеров на основе нейронных сетей с обработкой визуальной информации. Далее мы разрабатываем градиентный метод обучения, использующий новую функцию потерь для обеспечения безопасности, стратегию выборки данных с учётом требований безопасности для эффективного отбора и хранения критически важных примеров обучения, а также обучение по учебной программе (curriculum learning), чтобы эффективно синтезировать безопасные контроллеры в рамках предложенного полувероятностного подхода. Экспериментальные исследования...