MFI-ResNet: Оптимизация эффективной архитектуры ResNet посредством сжатия потока среднего значения (MeanFlow) и селективной инкубации
Краткое содержание
arXiv:2511.12422v1 Тип объявления: новый Аннотация: ResNet добился огромного успеха в компьютерном зрении благодаря механизму остаточных соединений. ResNet можно рассматривать как дискретизированную форму обыкновенных дифференциальных уравнений (ОДУ). С этой точки зрения, несколько блоков остатков внутри одной стадии ResNet фактически выполняют многошаговые дискретные итерации преобразования признаков для данной стадии. Недавно предложенная модель сопоставления потоков MeanFlow позволяет проводить одношаговое порождающее моделирование путем изучения среднего поля скоростей для трансформации распределений. Вдохновившись этим подходом, мы предлагаем ResNet, подготовленный моделью MeanFlow (MFI-ResNet), который применяет стратегию сжатия–расширения для совместного улучшения эффективности параметров и дискриминантной производительности. На этапе сжатия мы упрощаем многослойную структуру внутри каждой стадии ResNet до одного-двух модулей MeanFlow для построения облегчённой метамодели. На этапе расширения мы применяем избирательную стратегию подготовки к первому трём...
Полный текст статьи пока не загружен.