← Вернуться к списку

Обратите внимание на разрыв: выявление несоответствий в гетерогенных ускорителях ИИ

Краткое содержание

arXiv:2511.11601v1 Тип объявления: cross Аннотация: Несмотря на то, что компания NVIDIA остаётся доминирующим поставщиком акселераторов искусственного интеллекта для облачных дата-центров, такие новые участники рынка, как AMD, Intel, Mac и Huawei, предлагают экономически эффективные альтернативы, заявляя о совместимости и высокой производительности. В данной статье представлено первое эмпирическое исследование, посвящённое расхождениям в моделях машинного обучения на различных гетерогенных AI-акселераторах. Используя автоматизированный конвейер, мы синтезировали более 100 000 вариантов моделей, полученных из 4000 реальных моделей, и выполнили их на пяти различных корпоративных акселераторах. Наши результаты показывают, что новые AI-платформы от Mac и Huawei поддерживают как минимум на 17% меньше операторов, чем NVIDIA. Эти платформы также демонстрируют более высокий уровень расхождений в выходных данных (превышающий 5%), которые возникают из-за различий в реализациях операторов, обработке исключительных числовых значений и планировании инструкций. Они также более подвержены сбоям во время ускорения на основе компиляции моделей.

Полный текст статьи пока не загружен.