Краткое содержание

Kimi K2 0905 является сентябрьским обновлением Kimi K2 0711. Это крупномасштабная модель языкового моделирования Mixture-of-Experts (MoE), разработанная компанией Moonshot AI, с общим количеством параметров в 1 триллион и активными 32 миллиарда на один проход. Поддерживает вывод с длинным контекстом до 256k токенов, расширенный от предыдущих 128k. Это обновление улучшает агентное кодирование с более высокой точностью и лучшей обобщаемостью на различных платформах, а также повышает фронтенд-кодирование за счет более эстетичных и функциональных результатов для веба, 3D и связанных задач. Kimi K2 оптимизирован для агентских возможностей, включая продвинутое использование инструментов, логическое мышление и синтез кода. Модель превосходит в тестах на программирование (LiveCodeBench, SWE-bench), логическое мышление (ZebraLogic, GPQA) и использование инструментов (Tau2, AceBench). Модель обучена с помощью новой стековой архитектуры, включающей оптимизатор MuonClip для стабильного обучения крупномасштабных моделей MoE.