ollama下载使用教程

简介

Ollama 是一个开源的本地大语言模型运行框架，专门用于在自己的机器上部署和运行大型语言模型（LLM）。它解决的是本地部署门槛高、依赖与配置环节分散的问题，把模型下载、加载、对话交互收敛到一条命令行流程里。适合想在本地做模型实验的开发者与学生，也适合需要在内网或离线环境中使用大模型的团队。其核心优势在于支持 macOS、Windows、Linux 等多种操作系统，也能用 Docker 方式运行，CPU 同样可以参与推理，模型还能通过 Modelfile 导入 GGUF 文件统一管理。

核心功能

• 跨平台运行：官方下载页提供 macOS、Windows、Linux 版本以及 Docker 方式，Windows 用户也可以从微软应用商店获取 Ollama。
• 命令行交互：用 ollama pull 拉取模型后即可进入对话，下载完毕开始聊天，按 Control + D 退出当前对话。
• 模型导入：支持在 Modelfile 中导入 GGUF 模型，文件内写一条 FROM 指令指向你要导入的模型文件，再据此创建自定义模型。
• 多格式来源：除 GGUF 外，还支持从 PyTorch 或 Safetensors 导入模型，便于把已有权重接入本地运行环境。
• 路径可配置：通过系统环境变量 OLLAMA_MODELS 指定模型存放目录，另有 OLLAMA_HOST 用于调整服务监听相关配置。
• 自动更新：在 macOS 和 Windows 上会自动下载更新，点击任务栏或菜单栏图标后选择“重启以更新”即可应用，也可手动下载最新版本覆盖。
• 本地化部署与管理：允许用户在自己的硬件环境中部署、管理大规模预训练模型，让 CPU 也能参与大模型推理。

使用场景

• 个人电脑上的本地对话实验：在 Windows 或 macOS 桌面环境拉取模型后直接在终端里对话，适合快速验证提示词效果。
• CPU 为主的机器：没有独立显卡的环境也能跑通推理流程，适合先用 CPU 验证可行性再考虑换更强的硬件。
• 服务器与超算集群：在 Linux 节点上给 ollama 二进制加可执行权限并写入 PATH 后，即可在集群环境中部署 Llama3 等模型。
• 自有权重的本地运行：手上有 GGUF、PyTorch 或 Safetensors 权重文件时，用 Modelfile 转成本地可管理的模型条目。
• C 盘空间紧张的机器：把模型默认存放位置改到空间更大的磁盘，避免模型文件把系统盘占满。
• 需要固定环境的团队：通过 OLLAMA_HOST、OLLAMA_MODELS 等环境变量统一团队成员的运行配置，减少“在我这能跑”的差异。

安装与获取步骤

1. 获取安装包：访问 Ollama 下载地址 https://ollama.com ，按你的操作系统选择对应版本；Windows 也可在微软应用商店的 Ollama 页面获取，具体版本与包体信息以官方页面为准。
2. Windows 图形化流程：双击下载好的安装文件，按提示一路点击“下一步”，在安装路径选择处可以直接使用默认路径，随后等待系统复制文件完成即可使用。
3. Linux 命令行准备：下载 ollama 可执行文件后，先执行 chmod +x /path/to/ollama 赋予执行权限，再执行 export PATH=/path/to/ollama:$PATH 把所在目录加入 PATH，之后即可直接调用 ollama 命令。
4. 拉取模型：在终端运行 ollama pull 模型名 开始下载，下载速度取决于你的带宽；下载完成后即可开始对话，按 Control + D 退出聊天。
5. 导入自己的模型：新建一个名为 Modelfile 的文件，在其中写入 FROM 指令并指向你的 GGUF 模型文件，再据此创建模型条目，之后与其他模型一样用命令行调用。
6. 调整模型存放位置：先通过任务栏图标退出 Ollama，从控制面板进入系统环境变量，新建或编辑 OLLAMA_MODELS 变量并填入新的路径，点击 OK/Apply 保存，然后从一个全新的终端窗口运行 ollama。

模型下载与路径配置

模型默认下载到 C 盘，如果该盘空间不足，改法是添加系统环境变量 OLLAMA_MODELS 并把值设为新的路径。注意修改要先退出正在运行的 Ollama，改完保存后必须新开一个终端窗口再执行 ollama 命令，否则读到的仍是旧路径。若下载进度停滞在最后阶段，可以按 Ctrl+C 取消本次下载，然后再次运行 ollama pull 模型名 继续。若提示 Error pull model manifest，按顺序检查三件事：能否正常访问 registry.ollama.ai、命令里的模型名称与标签是否写对、Ollama 是否为较新版本，必要时执行 ollama reset 清理缓存后重试。

注意事项

• 修改 OLLAMA_MODELS、OLLAMA_HOST 等环境变量前，先通过任务栏图标退出 Ollama；改完点 OK/Apply 保存，并从新的终端窗口重新运行 ollama，否则配置不生效。
• 模型下载卡在 99% 时，直接 Ctrl+C 取消当前下载，再重新执行 ollama pull 模型名，通常可继续剩余部分。
• 出现 Error pull model manifest 时，先确认网络能访问 registry.ollama.ai，再核对模型名称和标签是否拼写正确，同时清理缓存后重试。
• 模型默认落在 C 盘，长期使用前先评估磁盘余量，把 OLLAMA_MODELS 指向空间充足的分区，避免下载到一半因空间不足失败。
• 升级方式：macOS 和 Windows 会自动下载更新，点任务栏或菜单栏图标选择“重启以更新”；也可以手动下载最新版本覆盖，具体版本号以官方页面为准。
• 不同资料给出的模型体积、命令参数可能存在差异，以 Ollama 官方文档 https://ollama.readthedocs.io/quickstart/ 与下载页 https://ollama.com 为准。