Краткое содержание

Llama Guard 3 — это предварительно обученная модель на основе архитектуры Llama версии 3.1 с размером модели 8 миллиардов параметров, дообученная для классификации безопасности контента. Аналогично предыдущим версиям, она способна классифицировать контент как во входных данных моделей больших языковых моделей (LLM), так и в выходных результатах (ответах). Модель действует подобно языковой модели: генерирует текстовый вывод, указывая, является ли предоставленный запрос или ответ безопасным либо небезопасным, а также перечисляет категории нарушений содержимого, если оно признано небезопасным. Llama Guard 3 была настроена таким образом, чтобы обеспечивать защиту от стандартизированной таксономии рисков ML Commons и поддерживать возможности Llama 3.1. В частности, она обеспечивает модерацию контента на восьми языках и оптимизирована для обеспечения безопасности и защиты при вызове инструментов поиска и интерпретатора кода.