论文信息与摘要(译文)
原文标题:Kimi K2: Open Agentic Intelligence 中文译名:Kimi K2:面向智能体能力的开源大模型 arXiv:2507.20534(v1)
本板块为论文全文的中文翻译,章节结构与「论文原文」板块一一对应。
Kimi Team
摘要
我们推出 Kimi K2,这是一个混合专家(Mixture-of-Experts, MoE)大语言模型,拥有 320 亿激活参数和 1 万亿总参数。 我们提出了 MuonClip 优化器,它在 Muon 的基础上引入了一种新颖的 QK-clip 技术以解决训练不稳定性问题,同时保留了 Muon 卓越的 token 效率。基于 MuonClip,K2 在 15.5 万亿 token 上完成了预训练,且未出现任何损失尖峰(loss spike)。 在后训练阶段,K2 经历了一个多阶段的后训练流程,其亮点包括大规模智能体数据合成流水线以及联合强化学习(RL)阶段,模型通过与真实和合成环境的交互来提升自身能力。
Kimi K2 在开源非思考(non-thinking)模型中取得了最先进的性能,在智能体能力方面表现尤为突出。值得注意的是,K2 在 Tau2-Bench 上获得 66.1 分,在 ACEBench(En)上获得 76.5 分,在 SWE-Bench Verified 上获得 65.8 分,在 SWE-Bench Multilingual 上获得 47.3 分——在非思考设置下超越了大多数开源和闭源基线模型。 它在编码、数学和推理任务中也展现出强大的能力,在 LiveCodeBench v6 上获得 53.7 分,在 AIME 2025 上获得 49.5 分,在 GPQA-Diamond 上获得 75.1 分,在 OJBench 上获得 27.1 分,且均未使用扩展思考。这些结果使 Kimi K2 成为迄今为止能力最强的开源大语言模型之一,尤其是在软件工程和智能体任务方面。我们发布了基础模型和后训练模型的检查点11 1
https://huggingface.co/moonshotai/Kimi-K2-Instruct,以促进智能体智能的未来研究与应用。
Kimi K2 技术报告
| |

图 1:Kimi K2 主要结果。33 3 上述评估的所有模型均为非思考模型。对于 SWE-bench Multilingual,由于 Claude 4 Opus 的评估成本过高,我们仅评估了 Claude 4 Sonnet。
Results of {{call_id}}
{{ execution result content }} <|im_end|>
