Краткое содержание

arXiv:2511.13766v1 Тип объявления: кросс Аннотация: Глубокие ансамбли (Deep Ensembles, DE) зарекомендовали себя как мощный подход для количественной оценки предсказательной неопределенности и различения ее алеаторных и эпистемических компонентов, что повышает надежность и устойчивость моделей. Однако их высокая вычислительная и ресурсоемкость на этапе вывода создают значительные трудности для широкого практического применения. Для преодоления этой проблемы мы предлагаем дистилляцию доверительных ансамблей (Credal Ensemble Distillation, CED) — новый фреймворк, который сжимает ансамбль DE в одну модель, называемую CREDIT, предназначенную для задач классификации. Вместо одного распределения вероятностей по мягкому максимуму (softmax), CREDIT прогнозирует интервалы вероятности классов, которые определяют доверительное множество — выпуклое множество распределений вероятностей, используемое для оценки неопределенности. Эмпирические результаты на эталонных тестах обнаружения данных вне распределения показывают, что CED обеспечивает более высокую или сопоставимую точность оценки неопределенности по сравнению с несколькими существующими базовыми методами, при этом значительно снижая затраты на вывод по сравнению с DE.