Краткое содержание

Ring-1T прошёл дальнейшее масштабирование посредством крупномасштабного обучения с подкреплением на основе верифицируемого вознаграждения (RLVR), что позволило ещё больше раскрыть возможности модели с триллионом параметров по обработке естественного языка. Благодаря обучению методом обратной связи от человека (RLHF) также были улучшены общие способности модели, благодаря чему данная версия Ring-1T демонстрирует более сбалансированную производительность при выполнении различных задач. Ring-1T построен на архитектуре Ling 2.0 и натренирован на базовой модели Ling-1T, содержащей всего один триллион параметров, из которых активировано 50 миллиардов, поддерживая контекстное окно до 128К токенов.