Краткое содержание

Llama-3.1-Nemotron-Nano-8B-v1 — компактная большая языковая модель (LLM), созданная на основе модели Meta Llama-3.1-8B-Instruct и оптимизированная специально для выполнения рассуждений, ведения диалоговых взаимодействий, генерации с использованием извлечения информации (RAG) и приложений вызова инструментов. Модель сочетает точность и эффективность, легко размещаясь на одной потребительской видеокарте уровня RTX для локального развёртывания. Поддерживает расширенные длины контекста до 128К токенов. Примечание: чтобы включить режим рассуждения, обязательно укажите фразу `detailed thinking on` в подсказке системы. Для получения дополнительной информации см. раздел «Рекомендации по использованию».