第三章 AI 能力实战

一句话概括这一章

1Panel 不再只是个“装数据库的运维面板”,它同时是一个轻量级 AI 管理平台:从模型账号、本地大模型部署,到智能体、AI 网关、MCP,一条链路全在面板里。但 AI 模块的能力分散在社区版、专业版、企业版三个层级里,上手之前最该先搞清楚的是“哪些免费、哪些要钱、哪些要显卡”。

如果你已经在 1Panel 上跑过网站和应用,这一章是另一个视角的进阶:把服务器从“跑业务的机器”变成“跑模型的机器”。

这一章解决什么问题

小节 场景 一句话答案
3.1 模型管理与本地大模型部署 想统一管云端模型的 API Key,或者本地跑个开源模型 模型账号管凭证,Ollama 管本地模型,零门槛起步
3.2 vLLM 与 GPU 监控 要并发、要吞吐、有显卡 vLLM 是专业版能力,GPU 监控看显存和利用率
3.3 智能体与 AI 网关 给团队搭聊天助手、统一管调用配额 智能体社区版就能用(限 5 个),AI 网关是企业版
3.4 Skills Hub 与 MCP 实战 让 AI 能调外部工具、企业内部管理 Skill MCP 三个版本都有,Skills Hub 仅企业版

先打通一个认知:1Panel 的 AI 模块在管什么

和第 1 章讲网站时“OpenResty 是发动机”的视角一样,AI 模块也有一层“谁在真正干活”的认知:

你在面板上看到的 背后实际是什么
模型账号 保存连接信息(API Key、Base URL),真正推理在云端厂商那边
Ollama 应用商店装的一个容器应用,本地推理在容器里跑
vLLM 也是容器部署的推理引擎,冲着高吞吐去的
智能体 一个个容器化的应用(带 WebUI),配置文件指向上面的模型
MCP Server 用 npx/uvx 启动的命令,被 1Panel 封装进容器转成 HTTP 服务

一句话:1Panel 的 AI 能力,是“帮你把各种 AI 组件装起来、配置好、管起来”,而不是自己实现推理。 理解了这层,你就会明白为什么应用商店状态、Docker 状态、容器资源(CPU/内存/显卡)是 AI 功能的三个共同前提。

版本边界:这张表先存着

AI 模块是 1Panel 里“版本差异最大”的部分,先把边界说清楚,后面四节就不用反复重复:

能力 社区版 专业版 企业版
模型账号 ✅ ✅ ✅
Ollama 管理 ✅ ✅ ✅
GPU 监控 ✅ ✅ ✅
智能体 ✅(最多 5 个) ✅ 不限数量 ✅ 不限数量
MCP ✅ ✅ ✅
vLLM ❌ ✅ ✅
模型下载器 ❌ ✅ ✅
AI 网关 ❌ ❌ ✅
基准测试 ❌ ❌ ✅
Skills Hub ❌ ❌ ✅
智能体批量任务 / 下发 Skill ❌ ❌ ✅

发现规律了吗:不要钱的部分是“管凭证 + 管本地模型 + 管工具链”;要钱的部分是“要性能”(vLLM、模型下载器)和“要管理”(网关、Skills Hub、批量运维)。价格一律以官网为准,本书不编数字。

一个常见的起步误区

很多人装完 1Panel,冲进 AI 模块就想跑大模型,结果卡在第一步:服务器没有显卡,或者显卡驱动没装好。

先建立正确的预期:

你想跑的模型 大概需要什么
7B 左右的小模型(CPU 也行) Ollama + 足够内存,社区版就够
70B 级别的模型 专业显卡(几十 GB 显存)+ vLLM
云端 API(DeepSeek、通义这些) 只要一个 API Key,不吃本地资源

一条务实路线:先用模型账号接云端 API(几乎零成本,熟悉整个链路),再上 Ollama 跑本地小模型(社区版全部免费),等需求确认了再考虑专业版的 vLLM 和企业版的网关。一上来就买许可证租显卡,是这一章最常见的浪费。

硬件:三个必须先确认的事

在 AI 这条路上,软硬件的关系比网站模块紧得多:

第一,显卡驱动。 以 NVIDIA 为例,终端执行 nvidia-smi 必须能正常输出。这个命令是 1Panel GPU 监控的前提,也是后面一切 GPU 相关功能的前提。

第二,容器里用 GPU,需要 NVIDIA Container Toolkit。 驱动只解决了“系统认得出显卡”,容器里用还得装容器运行时工具。GPU 监控官方文档明确要求按 NVIDIA 的安装文档完成容器运行时配置。

第三,驱动和内核强绑定。 升级系统内核可能让显卡驱动失效,官方都提醒“生产环境应先确认兼容性并安排维护窗口”。AI 服务器不要随便 apt upgrade。

学完这一章你会获得什么

  • 知道哪种 AI 玩法花多少钱、需要什么硬件;
  • 会用模型账号统一管理多家云端模型的凭证;
  • 能用 Ollama 在自己的服务器上跑起一个本地大模型;
  • 清楚 vLLM 适合什么场景、GPU 监控看哪几个指标;
  • 理解智能体、AI 网关、MCP、Skills Hub 各自解决什么问题,不盲目上企业版。

更细的按钮级说明见 《1Panel 官方文档:功能手册》 的 AI 相关章节,本书讲的是选型与实战,官方文档讲的是完整参数。

下一节:从最贴近钱包的一步开始——模型账号管理,以及怎么用 Ollama 免费跑起本地大模型。