Appendix

本文为论文《Gemma 3：轻量开放的多模态模型家族》「中文全文翻译」板块的对应章节，与「论文原文」板块同一章节一一对应，层级保持一致。

Details of pre-trained performances.

表 9：预训练阶段后的事实性、常识表现与推理能力。

事实性与常识。在表 9 中，我们报告了新预训练基准相较先前版本的表现。我们考量了若干标准基准，即 HellaSwag（Zellers 等，2019）、BoolQ（Clark 等，2019）、PIQA（Bisk 等，2019）、SIQA（Sap 等，2019）、TriviaQA（Joshi 等，2017）、Natural Questions（Kwiatkowski 等，2019）、ARC-C 与 ARC-E（Chollet，2019）、WinoGrande（Sakaguchi 等，2019）、BBH（Suzgun 等，2022）、DROP（Dua 等，2019）。评估细节见附表 19。总体而言，我们的模型与 Gemma 2 处于同一水平，这令人鼓舞，因为这些能力并非本版本改进的重点。

表 10：预训练阶段后的 STEM 与代码表现。

STEM 与代码。我们在 STEM 与代码上的表现细节见附表 10。我们考量了若干标准基准，即 MMLU（Hendrycks 等，2020）、MMLU-Pro（Wang 等，2024）、AGIEval（Zhong 等，2023）、MATH（Hendrycks 等，2021）、GSM8K（Cobbe 等，2021）、GPQA（Rein 等，2023）、MBPP（Austin 等，2021）、HumanEval（Chen 等，2021）。评估细节见附表 19。总体而言，我们的预训练模型在 STEM 能力上有一致的提升。在代码方面，4B 与 12B 模型有类似提升，但 27B 模型没有。

表 11：预训练阶段后的多模态表现。分数为各数据集验证集切分上的结果（未使用 P&S）。

图像理解。在表 11 中，我们报告了使用视觉编码器训练的各模型在多种视觉问答基准上的表现，即 COCO Caption（Chen 等，2015）、DocVQA（Mathew 等，2020）、InfographicVQA（Mathew 等，2022）、MMMU（Yue 等，2023）、TextVQA（Singh 等，2019）、RealWorldQA（Rea 等）、ReMI（Kazemi 等，2024a）、AI2D（Kembhavi 等，2016）、ChartQA（Masry 等，2022）、VQA v2（Goyal 等，2017）、BLINK（Fu 等，2024）、OK-VQA（Marino 等，2019）、TallyQA（Acharya 等，2018）、SpatialSense VQA（Yang 等，2019）、CountBench VQA（Paiss 等，2023）。评估细节见附表 20。

表 12：预训练检查点在多模态基准上微调后的表现（未使用 P&S）。PaliGemma 2 在前四个基准上使用 896×896 分辨率迁移，其余使用 448×448 分辨率。

与 PaliGemma 2 的比较。我们按照 Steiner 等（2024）的协议微调多模态 Gemma 3 预训练检查点——仅扫描学习率，其余迁移设置相同。表 12 的结果显示，Gemma 3 在涉及文档理解的基准上表现出色，甚至优于更大的 PaliGemma 2 变体。请注意，由于视觉编码器中的平均池化，在相同 896×896 分辨率下，Gemma 3 的 4B 和 12B 模型迁移成本约为 PaliGemma 2 的 9B 和 27B 模型的 1/10。Gemma 3 在 AI2D 和 OK-VQA 上也表现更好，但 PaliGemma 2 在 VQAv2 和 COCO caption 上略胜一筹。

表 13：预训练阶段后的多语言表现。IndicGenBench 为附表 14 中所报告基准的平均值。

多语言。在表 13 中，我们报告了预训练模型在多语言任务上的表现。我们采用多样本提示的上下文学习，并在以下基准上给出结果：MGSM（Shi 等，2023）、Global-MMLU-Lite（Singh 等，2024b）、WMT24++（Deutsch 等，2025）、FLoRes（Goyal 等，2022）、XQuAD（Artetxe 等，2020）、ECLeKTic（Goldman 等，2025）、IndicGenBench（Singh 等，2024a）、XOR QA（Asai 等，2020）。评估细节见附表 19。

表 14：预训练阶段后的 IndicGenBench 详细表现。

长上下文。在表 15 中，我们报告了预训练与微调模型在长上下文基准上的表现，包含 RULER（Hsieh 等，2024）与 MRCR（Vodrahalli 等，2024）基准，分别在 32K 与 128K 序列长度上评估。

表 15：预训练（PT）与指令微调（IT）模型在不同上下文长度长上下文基准上的表现。

8.1 Performance of IT models

表 16：指令微调（IT）模型在多模态基准上的表现。若未特别说明，这些结果均为各数据集最终测试集上、启用 P&S 后的结果。

我们在表 18 中报告了 IT 模型的更多基准。请注意，N2C 指 Natural2Code，即 Gemini 1.0 内部留出数据集，其使用作者生成的来源而非基于网络的信息。BBEH 指 BIG-Bench Extra Hard（Kazemi 等，2025），这是一个具有挑战性的 LLM 推理基准，聚合了若干推理任务（Kazemi 等，2024b；Nie 等，2024；Kıcıman 等，2023；Tyen 等，2023；Kazemi 等，2023；Sánchez 等，2024；Hessel 等，2022；Zhang 等，2024；Yamada 等，2023；Fatemi 等，2024；White 等，2024；Shah 等，2024）。ECLeKTic 指 Goldman 等（2025）。我们报告微观平均分数。更多评估细节见附表 21。

8.2 Performance of IT models on video understanding

表 17：指令微调（IT）模型在视觉理解基准上的表现，使用 0-shot、16 帧 linspace。Perception Test 由展示感知上有趣情境的真实世界视频组成，我们报告其在多选题视频问答基准上的 top-1 准确率。ActivityNet-QA 报告标准的 GPT 评估结果。

表 18：不同规模的指令微调（IT）模型在更多内部与外部基准上的表现。

额外的多模态评估。Gemma 3 IT 模型按照 Gemini 1.5（Gemini Team，2024）的评估协议在通用视觉基准上进行了评估。在启用 P&S 时，结果见附表 16。

表 19：文本基准细节。Char-Len 指字符长度归一化，COT 指思维链提示。

表 20：视觉基准细节。不使用思维链提示，也不做归一化。

表 21：指令微调（IT）基准细节。不做归一化。