附录 B s1K 详情

本文为论文《s1:用简单方法实现测试时计算扩展》「中文全文翻译」板块的对应章节,与「论文原文」板块同一章节一一对应,层级保持一致。

B.1 s1K 概要

表 5:我们的数据集 s1K 概要。词元数由 Qwen-2.5 分词器统计。我们提示 Claude 根据领域内的若干问题生成关键词。

B.2 完整 59K 问题的数据集构成

表 6:完整 59K 问题的构成。思考与回复长度使用 Qwen2.5-32B-Instruct 分词器(Qwen et al., 2024)以词元为单位衡量。除了排除我们的评估基准 AIME24 外,我们还排除了 2022—2023 年的 AIME 问题,因为我们在 s1-32B 的开发阶段使用了这 90 道问题。

B.3 s1K 评分提示词

为了对我们 §2 中数据集选择所用的示例进行正误评分,我们使用了图 8 中的提示词。

图 8:评分提示词。

B.4 s1K 多样性选择

算法 1 用于 s1K 的两阶段采样

算法 1 给出了我们在多样性选择阶段进行数据选择的算法。如 §2 所述,我们还纳入了来自一些我们认为高质量的具体基准的样本。没有任何样本与我们的最终评估重叠。

B.5 去污染

我们通过检查所选示例与评估基准(MATH500、GPTQA Diamond 和 AIME24)之间是否存在 8-gram 重叠来过滤所有样本。我们排除重叠超过 8-gram 的问题。