← Вернуться к списку

ODE$_t$(ODE$_l$): Сокращение времени и длины в моделях диффузии и потока для ускорения выборки

Краткое содержание

arXiv:2506.21714v3 Тип объявления: замена Аннотация: Непрерывные нормализующие потоки (Continuous Normalizing Flows, CNFs) и диффузионные модели (Diffusion Models, DMs) генерируют высококачественные данные из шумового распределения. Однако их процесс выборки требует многократных итераций для решения обыкновенного дифференциального уравнения (ОДУ), что связано с высокой вычислительной сложностью. Современные методы направлены на сокращение числа дискретных временных шагов во время выборки для повышения эффективности. В данной работе мы исследуем дополнительное направление, в котором компромисс между качеством и сложностью также может контролироваться по длине нейронной сети. Мы достигаем этого путем переорганизации блоков в архитектуре трансформеров для решения внутреннего дискретизированного ОДУ относительно его глубины. Затем применяем условие согласованности длины при обучении сопоставлению потоков, благодаря чему выборка может выполняться произвольным числом временных шагов и блоков трансформера. В отличие от других подходов, наш метод ODE$_t$(ODE$_l$) является независимым от решателя по временной размерности и снижает как латентную...

Полный текст статьи пока не загружен.