附录 B 英文网络消融

本文为论文《SmolLM2：紧凑高效的小语言模型家族》「中文全文翻译」板块的对应章节，与「论文原文」板块同一章节一一对应，层级保持一致。

图 4 显示了在 DCLM、FineWeb-Edu 及其混合物上训练的消融模型的评估曲线（3500 亿个 token）。

图

图 4：在 FineWeb-Edu 和 DCLM 上训练 3500 亿个 token 的模型评估。FineWeb-Edu 在知识和推理任务上表现出色，而 DCLM 在常识推理基准上表现更强。FineWeb-Edu 与 DCLM 的 60/40 混合物在所有任务上实现了平衡性能。