Краткое содержание

arXiv:2510.13714v2 Тип анонса: replace-cross Аннотация: Видео составляет подавляющее большинство битов, генерируемых ежедневно, и является основным сигналом, движущим текущие инновации в робототехнике, дистанционном зондировании и носимых технологиях. Однако самые мощные модели для понимания видео слишком ресурсоемки для платформ с ограниченными ресурсами, используемых в этих приложениях. Один из подходов — перенести инференс в облако; это дает доступ к графическим процессорам, способным обрабатывать видео высокого разрешения в реальном времени. Но даже при наличии надежных каналов связи с высокой пропускной способностью, совокупная задержка кодирования видео, инференса модели и двусторонней связи делает этот подход непригодным для некоторых приложений реального времени. Альтернатива — полностью локальный инференс; но это накладывает экстремальные ограничения на вычислительные затраты и энергопотребление, требуя использования менее мощных моделей и более низкого разрешения, что приводит к снижению точности. Для решения этих проблем мы предлагаем Dedelayed, систему инференса в реальном времени, которая разделяет вычис