Краткое содержание

DeepSeek R1 Distill Llama 8B — дистиллированная большая языковая модель, основанная на Llama-3.1-8B-Instruct, использующая результаты работы модели DeepSeek R1. Модель объединяет передовые методы дистилляции, чтобы достичь высокой производительности сразу по нескольким бенчмаркам, включая следующие показатели: - AIME 2024 pass@1: 50.4 - MATH-500 pass@1: 89.1 - Рейтинг CodeForces: 1205 Модель применяет дообучение на основе результатов DeepSeek R1, обеспечивая конкурентоспособную производительность, сопоставимую с большими моделями нового поколения. Hugging Face: — Llama-3.1-8B-DeepSeek-R1-Distill-Llama-8B