Краткое содержание

arXiv:2510.04102v2 Тип объявления: replace Аннотация: Мотивированные впечатляющим успехом базовых моделей (Foundation Models, FMs) в языковом моделировании, в последнее время растет интерес к разработке базовых моделей для прогнозирования временных рядов, учитывая преобразующий потенциал таких моделей для науки и техники. Это привело к значительным успехам базовых моделей в задачах краткосрочного прогнозирования. Однако, экстраполяция или долгосрочное прогнозирование остаются для них труднодостижимыми задачами — они зачастую не могут превзойти даже простые базовые методы. Это контрастирует с физическими законами, которые обладают сильными свойствами экстраполяции, и поднимает вопрос о фундаментальном различии между структурой нейронных сетей и физических законов. В данной работе мы выявляем и формализуем фундаментальное свойство, характеризующее способность моделей статистического обучения к точному прогнозированию за пределами их обучающей области, что объясняет ухудшение производительности моделей глубокого обучения в условиях экстраполяции. В дополнение к теоретическому