ollama安装教程使用教程

简介

Ollama 是一个开源的大模型本地部署框架，支持 macOS、Windows、Linux 三种系统，也可以通过 Docker 容器运行。它解决的是在自己电脑上跑大模型时的环境配置、模型拉取与调用问题：用户执行一条命令即可拉取模型并开始对话，不必自行搭建推理服务。教程面向第一次接触本地部署的开发者与学习者，Datawhale《动手学Ollama》给出了从基础入门到进阶使用的完整路径，并配合实际应用案例讲清大模型部署与应用技术。Ollama 对系统要求不高，纯 CPU 也能运行模型，有无独立显卡则直接决定生成速度。

核心功能

• 跨平台运行：支持 macOS、Windows、Linux，也可通过 Docker 容器运行，同一套命令在不同系统上通用。
• Windows 一键安装：下载 OllamaSetup.exe 后直接点击即可完成，与其他软件的安装方式一致。
• 环境变量配置：Windows 下建议按实际需求配置系统环境变量参数，参数标识与配置说明见 Datawhale 教程的 Windows 章节。
• 模型拉取与管理：用 ollama pull 拉取模型，用 ollama list 查看本机已拉取的模型列表。
• 模型运行与对话：执行 ollama run 加模型名即可进入对话，运行报错通常指向服务未正确启动。
• 自定义模型：支持在 Modelfile 中用 FROM 指令导入 GGUF 格式模型，据此创建特定用途的模型。
• 自动更新：macOS 和 Windows 会自动下载更新，点击任务栏或菜单栏图标选择“重启以更新”即可应用。

使用场景

• 本地离线使用：模型跑在自己电脑上，不依赖在线服务，适合对数据外泄有顾虑的场景。
• 学习大模型部署：配合 Datawhale《动手学Ollama》的入门到进阶内容与应用案例，理解部署与应用技术。
• 导入自有 GGUF 模型：已有 GGUF 权重时，通过 Modelfile 的 FROM 指令接入并创建自定义模型。
• 构建特定用途模型：围绕某个固定用途整理提示词与配置，形成可复用的专用模型。
• 开发调试与排错：结合 ollama list、ollama pull 与服务重启，定位“模型不存在”“未正确启动”等调用问题。
• 低配设备验证：纯 CPU 环境也能跑通流程，用于先验证效果再决定是否上独立显卡。

安装与获取步骤

1. 确认系统与硬件：Ollama 支持 macOS、Windows、Linux 及 Docker 容器；纯 CPU 可运行，独立显卡决定生成速度，具体要求以官方页面为准。
2. Windows 获取：打开 https://ollama.com/download 选择 Windows 版本下载安装包，得到 OllamaSetup.exe。
3. Windows 执行：双击 OllamaSetup.exe 按提示完成，安装后建议按实际需求配置系统环境变量参数，参数说明见 https://github.com/datawhalechina/handy-ollama/blob/main/docs/C2/2.%20Ollama%20%E5%9C%A8%20Windows%20%E4%B8%8B%E7%9A%84%E5%AE%89%E8%A3%85%E4%B8%8E%E9%85%8D%E7%BD%AE.md 。
4. Linux 执行：运行一条以 curl -fsSL https://ollama.com 开头的脚本完成部署，可参考 ubuntu18.04 + 1080Ti 显卡 + 16G 内存的测试环境，命令以官方页面为准。
5. 拉取模型：执行 ollama pull 加模型名下载模型，再用 ollama list 确认模型已在列表中。
6. 运行模型：执行 ollama run 加模型名进入对话；若提示未正确启动，先关闭程序再以管理员身份重新启动。
7. 导入自有模型：创建一个名为 Modelfile 的文件，写入 FROM 指令并指向 GGUF 模型文件，再据此创建自定义模型。

常用命令速查

• ollama pull 模型名：从仓库拉取模型到本地，是运行前的必要步骤。
• ollama list：列出本机已拉取的模型，用于核对模型名是否写错。
• ollama run 模型名：启动模型并进入对话，是日常使用的主要入口。
• Modelfile 中的 FROM 指令：指定要导入的 GGUF 模型文件路径，用于创建自定义模型。
• curl -fsSL https://ollama.com 开头的脚本：Linux 下的部署方式，具体参数以官方页面为准。

注意事项

• 执行 ollama run xxx 报错说明 Ollama 没有正确启动：先关闭 ollama 程序，再以管理员身份重新启动后重试。
• 调用时提示“模型不存在”：先用 ollama list 检查已拉取的模型列表，缺失时执行 ollama pull 加模型名重新拉取。
• 升级方式：macOS 和 Windows 会自动下载更新，点击任务栏或菜单栏图标选择“重启以更新”；也可手动下载最新版本覆盖。
• 遇到与 Node.js 相关的冲突时，可先卸载冲突的软件包、清理残留文件，再重新装上 Node.js，建议选择推荐的 LTS 版本。
• 硬件预期要合理：纯 CPU 能跑通，但生成速度明显受限，是否需要独立显卡以实际效果为准；版本、参数等信息以官方页面为准。