← Вернуться к списку

SLOFetch: Сжатая иерархическая предварительная выборка инструкций для облачных микросервисов

Краткое содержание

arXiv:2511.04774v1 Тип объявления: новый Аннотация: Масштабируемые сетевые сервисы зависят от глубоких стеков программного обеспечения и оркестрации микросервисов, что увеличивает количество выполняемых инструкций и вызывает задержки фронтенда, увеличивая хвостовую задержку и энергопотребление. Мы пересматриваем механизм упреждающей выборки инструкций для облачных рабочих нагрузок и предлагаем дизайн, согласующийся с системами, управляемыми показателями уровня обслуживания (SLO) и способными к самооптимизации. Основываясь на технологии Entangling Instruction Prefetcher (EIP), мы вводим концепцию Сжатого Элемента, который позволяет хранить до восьми адресатов относительно базовой инструкции всего лишь в 36 битах благодаря пространственной кластеризации, а также схему Иерархического Хранилища Метаданных, сохраняющую только часто запрашиваемые элементы первого уровня непосредственно на чипе, виртуализируя основную массу метаданных на нижние уровни иерархии. Дополнительно мы добавляем легковесный Онлайновый Контроллер Машинного Обучения, оценивающий выгодность упреждающих запросов с использованием контекстных признаков и адаптивного порога, скорректированного методом бандита. В приложениях дата-центров наш подход сохраняет преимущества, аналогичные EIP, при меньшем объеме состояния на кристалле и повышает эффективность...

Полный текст статьи пока не загружен.