← Вернуться к списку

ML-EcoLyzer: Оценка экологического воздействия вывода моделей машинного обучения на различных фреймворках и аппаратных платформах

Краткое содержание

arXiv:2511.06694v1 Тип объявления: новый Аннотация: Вывод моделей машинного обучения осуществляется в огромных масштабах, однако воздействие данного процесса на окружающую среду остаётся слабо изученным, особенно применительно к оборудованию с ограниченными ресурсами. Мы представляем инструмент ML-EcoLyzer — межфреймворковый инструмент для измерения углеродного следа, энергопотребления, тепловыделения и расхода воды при выполнении вывода на центральных процессорах (CPU), потребительских графических ускорителях (GPU) и специализированных датацентровых ускорителях. Инструмент поддерживает классические и современные модели, используя адаптивное наблюдение и оценку, учитывающую особенности аппаратной платформы. Мы вводим показатель экологической устойчивости (Environmental Sustainability Score, ESS), который измеряет количество эффективных параметров, обслуживаемых на грамм выброшенного $\mathrm{CO}_2$. Наше исследование охватывает свыше 1900 конфигураций вывода, охватывая разнообразные архитектуры моделей, типы задач (текст, изображение, звук, табличные данные), виды оборудования и уровни точности вычислений. Тщательные и надёжные замеры показывают, что квантование улучшает значение показателя ESS, большие специализированные ускорители могут оказаться неэффективными для лёгких приложений, а даже небольшие модели способны приводить к значительным экологическим издержкам.

Полный текст статьи пока не загружен.