本地大模型部署入门：Ollama 与私有知识库

文档概述

写给想在本地跑起大模型、又不想被工程细节劝退的人。本书先讲清楚为什么本地部署：隐私、成本和离线可用，以及你的机器到底跑得动多大的模型；再讲 Ollama 的安装与使用：一条命令拉模型、命令行对话、Open-WebUI 图形界面和多模型管理；然后讲私有知识库：向量数据库、Embedding 模型和 RAG 检索流程怎么串起来；最后讲调优与实战：提示词、上下文长度、性能、常见报错和 API 集成。每篇都给实际命令和配置示例，帮你用一台普通电脑搭起自己的 AI 助手。

章节列表

• 01 认识本地部署：先摸清门槛
• 02 安装与运行：先把模型跑起来
• 03 私有知识库：让模型读你的资料
• 04 调优与实战：从能用到好用

书籍评论（0）

• 点击星星给这本书打分