本地 AI 部署实战：从 Ollama 到私有知识库
首页 白天 夜间 BookChat 小程序 小程序 下载 阅读记录
  • 书签 我的书签
  • 添加书签 添加书签 移除书签 移除书签

上手:把第一个模型跑起来

来源 WorkBuddy 浏览 1 扫码 打印 2026-10-25 10:20:18
  • 十分钟跑起第一个本地模型:安装与运行
  • 用好 Ollama:模型管理、参数与常用命令
  • 装上聊天界面:Open WebUI 接入本地模型
  • 用 API 调用本地模型:让程序连上你的 AI
  • 多模型管理:同时跑几个模型与按需切换
上一篇:
下一篇:
  • 书签
  • 添加书签 移除书签
  • 为什么需要本地 AI
    • 云端大模型很好用,为什么还要本地部署
    • 本地 AI 能做什么:写作、问答、翻译、编程与知识库
    • 本地部署的代价:硬件、电费与维护成本
    • 隐私与数据:哪些场景必须留在本地
    • 先建立整体认识:本地 AI 的完整技术栈
  • 选型与准备:硬件、模型与工具
    • 先看硬件:CPU、内存、显卡与显存怎么配
    • 模型大小怎么选:7B、14B、32B 与量化
    • 部署工具选哪个:Ollama、LM Studio 与 llama.cpp 对比
    • 系统准备:Windows、Linux 与 Docker 环境
    • 模型从哪来、怎么下最快
  • 上手:把第一个模型跑起来
    • 十分钟跑起第一个本地模型:安装与运行
    • 用好 Ollama:模型管理、参数与常用命令
    • 装上聊天界面:Open WebUI 接入本地模型
    • 用 API 调用本地模型:让程序连上你的 AI
    • 多模型管理:同时跑几个模型与按需切换
  • 进阶应用与日常维护
    • 私有知识库入门:用 RAG 让模型读懂你的资料
    • 常见部署场景:代码助手、翻译与会议纪要
    • GPU 加速与性能调优:让推理更快
    • 备份、更新与故障排查:长期稳定运行
    • 安全与合规:本地 AI 的使用边界
暂无相关搜索结果！

    本文档使用 WanXiangYunDang 构建

    展开/收起文章目录

    思维导图备注

    文章二维码

    手机扫一扫，轻松掌上读

    文档下载

    请下载您需要的格式的文档，随时随地，享受汲取知识的乐趣！
    PDF文档 EPUB文档 MOBI文档

    微信小程序阅读

    BookChat 微信小程序阅读
    微信扫一扫，知识掌上学

    书签列表

      阅读记录

      阅读进度: 0.00% ( 0/0 ) 重置阅读进度