Краткое содержание

Llama 4 Scout 17B Instruct (16E) — это экспертная смесь (MoE) языковой модели, разработанная компанией Meta, активирующая 17 миллиардов параметров из общего числа 109 млрд. Она поддерживает нативный мультимодальный ввод (текст и изображение), а также многоязычный вывод (текст и код) на 12 поддерживаемых языках. Модель предназначена для взаимодействия в стиле ассистента и визуального рассуждения, задействуя 16 экспертов на каждый проход прямого распространения и обладая контекстной длиной до 10 миллионов токенов, с корпусом тренировочных данных объемом около 40 триллионов токенов. Созданная для высокой эффективности и локальной либо коммерческой эксплуатации, Llama 4 Scout применяет раннюю интеграцию модальностей для бесшовного объединения различных форматов входных данных. Настроенная на выполнение инструкций, она подходит для использования в многоязычных чатах, аннотациях изображений и задачах понимания изображений. Выпущена под лицензией сообщества Llama 4, последняя тренировка проводилась на данных по август 2024 года включительно, публичный запуск состоялся 5 апреля 2025 года.