Параметрически адаптивная модель Mamba для многозадачной плотной предсказательной задачи
Краткое содержание
arXiv:2511.14503v1 Тип объявления: новый Аннотация: Понимание взаимосвязей и взаимодействий между задачами имеет решающее значение для многозадачного плотного прогнозирования. Современные методы в основном используют свёрточные слои и механизмы внимания для изучения межзадачных взаимодействий. В данной работе мы представляем новую декодерную архитектуру — модель Parameter Aware Mamba Model (PAMM), специально разработанную для плотных предсказаний в условиях многозадачности. В отличие от подходов, использующих трансформеры для моделирования целостных отношений задач, PAMM использует богатые масштабируемые параметры моделей пространства состояний для повышения связности задач. Она включает двойных экспертов параметров пространства состояний, которые интегрируют и устанавливают априорные параметры задачи, отражая внутренние свойства каждой из них. Этот подход не только способствует точному взаимодействию нескольких задач, но также позволяет глобально интегрировать априорные данные о задаче через структурированную последовательностную модель пространства состояний (S4). Кроме того, мы используем метод M
Полный текст статьи пока не загружен.