附录 A 评估的确定性

本文为论文《s1：用简单方法实现测试时计算扩展》「中文全文翻译」板块的对应章节，与「论文原文」板块同一章节一一对应，层级保持一致。

我们使用 vLLM (Kwon et al., 2023) 运行评估，因为它比我们尝试过的其他替代方案更快。然而，我们发现即使使用相同的随机种子和贪婪采样，评估分数在不同运行之间也可能发生显著变化：

• •

不同的批大小导致不同的结果 见 https://github.com/vllm-project/vllm/issues/5898

• •

持续的生成导致不同的结果 见 https://github.com/vllm-project/vllm/issues/11783

• •

张量并行方式的变化导致不同的结果

由于我们的模型在给出答案之前会生成很长的推理轨迹，微小的数值变化可能滚雪球般地放大为巨大的差异。我们遇到过许多生成结果在数千个词元上完全相同、然后突然在某一个词元上出现分歧，最终以完全不同的答案收尾的情况。为了部分应对这一问题，除非另有说明，我们通常以全精度运行最终的评估。