Краткое содержание

arXiv:2505.09598v5 Тип объявления: замена-перекрёстная публикация Аннотация: В данной статье представлена инфраструктура-ориентированная бенчмаркинговая платформа для количественной оценки экологического следа вывода больших языковых моделей (LLM), охватывающая 30 современных моделей коммерческих дата-центров. Платформа объединяет данные производительности публичных API с корпоративными множителями воздействия на окружающую среду и статистический вывод конфигураций аппаратного обеспечения. Дополнительно мы применяем метод анализа эффективности на основе перекрестной эффективности (Data Envelopment Analysis — DEA) для ранжирования моделей по соотношению производительности к затратам окружающей среды, предоставляя динамически обновляемую панель мониторинга, визуализирующую показатели энергопотребления, водопользования и выбросов углерода на уровне отдельных моделей. Результаты показывают, что наиболее энергоёмкие модели потребляют свыше 29 Вт·ч на длинное задание запроса, что превышает эффективность лучших систем более чем в 65 раз. Даже короткий запрос объёмом всего лишь 0,42 Вт·ч, масштабированный до уровня 700 млн запросов в день, суммарно требует ежегодного потребления электроэнергии, сопоставимого с потребностью 35 тысяч американских домохозяйств, испарение пресноводных ресурсов эквивалентно годовому питьевому водоснабжению 1,2 миллиона человек, а выбросы углекислого газа требуют компенсации через...