论文信息与摘要(译文)

原文标题:Qwen3 Technical Report 中文译名:Qwen3:兼顾思考与非思考模式的开源模型家族 arXiv:2505.09388(v1)

本板块为论文全文的中文翻译,章节结构与「论文原文」板块一一对应。

Qwen Team

摘要

在本工作中,我们推出 Qwen3,即 Qwen 模型系列的最新版本。Qwen3 包含一系列大型语言模型(LLMs),旨在提升性能、效率与多语言能力。Qwen3 系列同时包含稠密(dense)与混合专家(MoE)两种架构的模型,参数量规模从 0.6B 到 235B 不等。Qwen3 的一项关键创新是将思考模式(用于复杂、多步推理)与非思考模式(用于快速、依上下文驱动的响应)整合到统一框架中。这消除了在不同模型之间切换的需要——例如面向聊天的优化模型(如 GPT-4o)与专用的推理模型(如 QwQ-32B)——并支持基于用户查询或聊天模板的动态模式切换。同时,Qwen3 引入了思考预算(thinking budget)机制,允许用户在推理过程中自适应地分配计算资源,从而依据任务复杂度在延迟与性能之间取得平衡。此外,通过利用旗舰模型的知识,我们显著降低了构建小规模模型所需的计算资源,同时保证了其极具竞争力的性能。实证评估表明,Qwen3 在各类基准测试中取得了最先进(state-of-the-art)的结果,涵盖代码生成、数学推理、智能体任务等,可与更大的 MoE 模型及专有模型相媲美。与前代 Qwen2.5 相比,Qwen3 将多语言支持从 29 种语言及方言扩展到 119 种,通过提升跨语言理解与生成能力增强了全球可用性。为促进可复现性及社区驱动的研究与开发,所有 Qwen3 模型均基于 Apache 2.0 协议公开可用。

https://huggingface.co/Qwen
https://modelscope.cn/organization/qwen
https://github.com/QwenLM/Qwen3