用好 Ollama:模型管理、参数与常用命令
从跑通到用好
上一篇我们用 ollama run 跑起了第一个模型,完成了「从零到对话」的里程碑。但 ollama run 只是 Ollama 能力的冰山一角。一个完整的 Ollama 工作流,还包括模型管理(增删查)、服务控制(启动停止)、参数调优(上下文长度、温度)、以及自定义模型(Modelfile)。掌握这些,你才能真正「用好」Ollama。
本文按使用频率从高到低,把 Ollama 的常用命令和参数过一遍。不需要全部记住,照着用、遇到再查,几次之后就熟了。文章最后会给一张速查表,可以截图保存。
模型管理:增、删、查、改
Ollama 的模型管理围绕四个操作:拉取、查看、删除、更新。
拉取模型用 ollama pull,前面已经用过。查看本地模型用 ollama list,它会列出所有已下载的模型、大小、修改时间,方便你掌握磁盘占用。删除模型用 ollama rm 加模型名,注意删除不可恢复,删之前想清楚。
| 操作 | 命令 | 说明 |
|---|---|---|
| 拉取 | ollama pull qwen2.5:7b | 下载指定模型 |
| 查看 | ollama list | 列出本地全部模型 |
| 删除 | ollama rm qwen2.5:7b | 删除指定模型 |
| 复制 | ollama cp 源 目标 | 复制模型(常用于改造) |
更新模型是个容易忽略的点:模型作者会发布新版本,ollama pull 模型名 再次执行时会自动检查并更新到最新版。所以养成习惯:过一段时间重新 pull 一下常用模型,让它保持最新。删除模型时如果该模型正在运行,会先停止再删,不会有残留。

服务控制:常驻与端口
Ollama 的默认形态是交互式对话(ollama run),但更多场景需要的是「服务形态」:后台常驻、对外提供 API、让其他程序调用。这就是 ollama serve 的职责。
运行 ollama serve 后,Ollama 会作为服务常驻,默认监听 11434 端口,等待 API 请求。这时候你不再需要进入对话界面,而是通过 HTTP 接口调用模型(下一篇详述)。Windows 上 Ollama 安装后默认已注册为开机自启服务,无需手动启动;Linux 上安装脚本也会注册 systemd 服务。
如果想修改服务行为,最常用的是环境变量。比如修改模型存放目录用 OLLAMA_MODELS,修改监听地址用 OLLAMA_HOST。在 Linux 上设置:先停服务,export 环境变量,再启动服务。这些属于进阶配置,需要时再查官方文档即可,这里先知道「可以配置」就行。
常用参数:上下文与温度
Ollama 支持在运行或调用时传入参数,最常用的有两个:上下文长度和温度。
上下文长度(context window)决定模型一次能「记住」多少对话内容,单位是 token。默认值因模型而异,处理长文档、长对话时需要调大,比如用 8192 或 16384。调大的代价是显存占用上升,所以要在「装得下」和「够用」之间平衡。运行指定参数:ollama run qwen2.5:7b --num-ctx 8192。
温度(temperature)控制回答的随机性:数值低,回答更确定、更保守,适合翻译、代码、事实问答;数值高,回答更多样、更有创意,适合文案、头脑风暴。默认值通常是 0.8 左右,需要更稳定时调到 0.2 到 0.5,需要发散时调到 1.0 以上。
| 参数 | 作用 | 推荐值 |
|---|---|---|
| num_ctx | 上下文长度 | 默认或 8192 |
| temperature | 随机性 | 0.2~0.8 |
| top_p | 采样范围 | 默认即可 |
| num_predict | 最大生成长度 | 默认或按需 |
其他参数还有最大生成长度(num_predict)、top_p 采样等,对新手来说,先掌握上下文和温度两个就够了,其余保持默认,遇到具体需求再查。
自定义模型:用 Modelfile 固定你的设置
如果你发现每次都要手动传参数,很麻烦,可以用 Modelfile 把它固化成一个「自定义模型」。Modelfile 是 Ollama 的模型定义文件,类似 Dockerfile 之于 Docker,用来描述「在某个基础模型之上做什么修改」。
Modelfile 里可以改什么?设置默认参数(温度、上下文)、注入系统提示词、修改模型名称。比如创建一个「总是用中文简洁回答」的助手模型:
FROM qwen2.5:7b
SYSTEM 你是一个中文助手,回答要简洁、准确、口语化。
PARAMETER temperature 0.3
保存为 Modelfile 后,执行 ollama create my-assistant -f Modelfile,就会生成一个名为 my-assistant 的新模型,以后 ollama run my-assistant 直接使用,设置全部生效。这对固定工作流非常有用:给翻译、写作、代码分别建一个专用模型,一键切换。
实用工作流:一个真实的使用习惯
最后分享一个实用的日常工作流,把上面的命令串起来。
第一步,维护模型清单:用 ollama list 定期查看,只保留 1 到 2 个常用的(比如一个 7B 日常、一个 14B 重活),删掉不用的,保持磁盘清爽。第二步,固定常用模型:用 Modelfile 把常用的参数和提示词固化成自定义模型,减少重复输入。第三步,服务常驻:如果你有其他程序要调用,确保 ollama serve 在运行,端口 11434 正常监听。
这套工作流的好处是:日常使用成本极低,打开就能用,不折腾。等你对 Ollama 足够熟悉,再逐步解锁更多高级功能。

日志与调试:遇到问题怎么查
Ollama 用久了,总会遇到问题,学会看日志是排查问题的基本功。
Ollama 会在运行目录生成日志文件,记录启动、加载模型、推理、报错等关键信息。当遇到「对话无响应」「模型加载失败」「端口冲突」这类问题时,第一件事就是打开日志看最后几十行,错误原因往往就写在里面——比如显存不足、文件损坏、端口被占,日志里都有明确线索。
| 排查步骤 | 操作 | 目的 |
|---|---|---|
| 看状态 | ollama list / ps | 服务是否正常 |
| 看日志 | 打开日志文件 | 定位报错 |
| 试最小复现 | 只跑一个模型 | 缩小范围 |
调试的基本思路是「缩小范围」:先确认是工具问题还是模型问题,再确认是配置问题还是资源问题,逐步排除。Ollama 的命令行工具本身也会输出清晰的错误提示,先读提示,再查日志,大多数问题都能自己解决,不用一上来就求助社区。
进阶:用环境变量定制行为
Ollama 支持通过环境变量做深度定制,掌握几个常用的,能解决不少特定需求。
最常用的几个:修改模型存储位置用 OLLAMA_MODELS,适合磁盘分区紧张的用户;修改监听地址和端口用 OLLAMA_HOST,适合局域网共享;控制同时驻留的模型数量用 OLLAMA_MAX_LOADED_MODELS;调整 CPU 线程数用 OLLAMA_NUM_THREAD,适合 CPU 推理优化。在 Linux 上,设置方式是先导出环境变量再启动服务;Windows 上通过系统环境变量或启动脚本设置。
| 环境变量 | 作用 |
|---|---|
| OLLAMA_MODELS | 模型存储位置 |
| OLLAMA_HOST | 监听地址端口 |
| OLLAMA_MAX_LOADED_MODELS | 驻留模型数 |
| OLLAMA_NUM_THREAD | CPU 线程数 |
这些配置属于「进阶技能」,日常用不到,但遇到特定需求时知道「有这条路」就够了。需要时查官方文档确认语法,别凭记忆瞎配。环境变量是 Ollama 可定制性的体现,也是它适合服务器长期运行的原因之一。
用好 Ollama 的三个层次
把这一章的内容按「会用」到「用好」分三个层次,你可以对照自己处在哪一层,也知道往哪里进阶。
第一层,会用:掌握拉取、运行、查看、删除这四类基础命令,能完成模型的增删查改和日常对话。第二层,用好:掌握参数调整(上下文、温度)、服务控制(serve、环境变量)、以及用 Modelfile 固化自定义模型,让模型按你的习惯工作。第三层,精通:熟练日志调试、资源规划、多模型管理,甚至为团队或家庭搭建常驻服务。多数人停在第二层就足够高效,第三层是按需进阶。
| 层次 | 能力 | 标志 |
|---|---|---|
| 会用 | 基础命令 | 增删查改 |
| 用好 | 参数与服务 | 自定义模型 |
| 精通 | 调试与规划 | 常驻服务 |
看清层次,你就不会盲目追求「更多命令」——命令是工具,不是目的。真正的高手不是记住的命令多,而是知道每个场景该用什么。这一章的命令已经覆盖了「用好」所需的大部分,剩下的交给实践。
模型切换的常见疑问
用好 Ollama 的过程中,几个关于「切换模型」的疑问最常被问到,集中回答。
问:切换模型会不会丢对话?答:每个 ollama run 是独立会话,退出当前再运行新模型,当前对话内容就没了——需要保留时,把重要对话保存下来再切换。问:模型可以随时换吗?答:可以,换模型就是新开一个 run,资源会自动重排,显存不够时自动卸载旧的。问:为什么切换时有时很慢?答:那是系统在卸载旧模型、加载新模型,属正常现象,显存越大切换越快。
| 疑问 | 答案 |
|---|---|
| 切换丢对话吗 | 独立会话,需自存 |
| 随时可换吗 | 可以 |
| 切换慢正常吗 | 正常,加载所致 |
这几个疑问的本质都是「会话与资源的理解」:会话独立、资源自动管理,想清楚这两点,模型切换就不是问题。
下一步:接上图形界面
到这一步,你已经能用命令行熟练使用本地模型了。但命令行界面终究不够舒适:不能多轮可视化、不能传文件、不能管理多个对话。下一步,我们给它接上一个像样的图形界面——Open WebUI,让本地 AI 的体验向云端助手看齐。
延伸阅读
- 接图形界面继续读《装上聊天界面》。
- 想从面板管理 Ollama 服务,1panel-official-apps 里有相关的运维说明。
- 想看看别人如何用本地模型完成日常任务,cindy-guide 提供了一套完整的本地 AI 智能体使用案例。
