Ollama 教程

Ollama 是一个开源的本地大语言模型运行框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。

Ollama 支持多种操作系统，包括 macOS、Windows、Linux 以及通过 Docker 容器运行。

简单来说，如果 ChatGPT、Claude、DeepSeeek 这类服务是通过互联网调用别人家的模型，那么 Ollama 更像是一个本地 AI 模型运行环境。

谁适合阅读本教程？

Ollama 适用于开发者、研究人员以及对数据隐私有较高要求的用户，它可以帮助用户在本地环境中快速部署和运行大型语言模型，同时提供灵活的定制化选项。

使用 Ollama，我们可以在在本地运行 qwen3.5、Llama 3.3、DeepSeek-R1、Phi-4、Mistral、Gemma 2 和其他模型。

人员类型	可能想做的事
AI 初学者	搞懂什么是本地大模型，装好 Ollama，下载、运行、删除模型
程序员 / 开发者	把大模型集成到自己的 Python、JavaScript、Web 应用中
AI Agent 开发者	把本地模型接入 Claude Code、Codex、OpenCode 等编程 Agent
想体验本地 AI 的普通用户	不买 API、数据不上云，在自己电脑上体验各种开源模型

对开发者来说，Ollama 的价值在于把大模型变成一个可以随时调用的本地服务。

典型用途包括：AI 聊天机器人、AI 写作工具、AI 编程助手、文档分析工具、RAG 知识库、向量检索、AI Agent、自动化工作流，以及本地 AI Web 应用。

这些能力的背后，是 Ollama 提供的文本生成、聊天、模型管理、Embedding 等接口，并且支持流式响应和工具调用。

如果你正在学习 Claude Code、Codex、OpenCode 等 AI 编程工具，Ollama 可以作为它们的本地模型后端。

Ollama 已经提供与 Claude Code、Codex、OpenCode、Copilot CLI、Droid 等工具的官方集成方式，一条 ollama launch 命令就能把本地模型接入这些 Agent 工作流，这部分会在集成章节详细展开。

Ollama 本身并不难，如果只是运行模型，基本不需要编程基础。

不同的学习目标对应的基础要求不同，可以对照下表评估自己的起点：

如果只是想体验 Ollama，知道什么是终端、命令、文件夹和模型基本就够了。

如果想进一步开发 AI 应用，建议先了解 HTTP / REST API、JSON、Python 或 JavaScript，以及 Git 和 Docker 的基本用法。

这是 Ollama 最核心的能力：在自己电脑或服务器上运行开源模型，不需要自己搭建复杂的推理环境。

一条命令即可启动，模型运行后直接对话：

bash

ollama run qwen3.5

这条命令会本地启动通义千问 Qwen3.5 模型，进入交互式对话终端，如果本地没有该模型时会自动先下载，再启动。