ollama安装配置使用教程

简介

Ollama 是可在 macOS、Windows、Linux 与 Docker 环境下部署的本地模型运行工具，用于把模型下载到本机并以命令行方式运行与调用。它解决的是模型分散、依赖复杂、离线环境难以复现的问题：用户不必逐个配置推理框架，即可完成模型导入、下载、运行与管理。适合开发者、学生，以及需要在内网或离线机器上验证模型效果的团队，也可作为 WebUI、办公套件等上层应用的后端服务。核心优势是跨平台一致的命令体验、支持从 GGUF、PyTorch、Safetensors 导入自定义模型，并可通过系统环境变量调整存储与服务行为。

核心功能

• 跨平台部署：macOS、Windows、Linux 与 Docker 四类环境都有对应的安装与配置方式，命令与模型目录结构保持一致，迁移机器时不必重新学习一套流程。
• 环境变量配置：Windows 下完成一键安装后，建议按实际需求配置系统环境变量参数，用于指定模型存储位置、服务监听等行为，参数名与取值以官方页面为准。
• 自定义模型导入：支持通过 Modelfile 中的 FROM 指令导入 GGUF 模型，也支持从 PyTorch 或 Safetensors 格式导入，把已有权重变成可直接调用的模型。
• 模型管理命令：ollama pull 用于拉取模型，ollama list 列出本机已有的模型，ollama run 启动对话，三条命令覆盖下载、核对、运行的完整闭环。
• 服务化运行：Linux 下以 systemd 服务方式运行，可用 sudo systemctl status ollama.service 查看服务状态，便于后台常驻与故障定位。
• 自动更新：macOS 与 Windows 会自动下载更新，点击任务栏或菜单栏图标选择“重启以更新”即可应用新版本，也可手动下载最新版本覆盖。
• 上层应用对接：可作为 WebUI、办公套件等前端的后端服务，配合网络配置连通服务端口后，在浏览器中访问图形界面进行对话。

使用场景

• 本地离线对话：在无外网或注重隐私的机器上运行模型，对话内容不出本机，适合个人日常问答与写作辅助。
• 内网团队共享：把服务部署在内网服务器，团队成员通过 WebUI 等前端访问，统一模型版本与配置口径。
• 办公软件接入：为 ONLYOFFICE 文档这类支持本地模型的办公套件提供后端，按其分步指南完成对接与连通性检查。
• 自定义模型验证：拿到 GGUF、PyTorch 或 Safetensors 权重后，写一个 Modelfile 即可在本机跑通并验证效果。
• 教学与实验：配合《动手学 Ollama》等教程，按章节完成介绍、安装、配置与模型导入的完整练习。
• 集群与长期服务：在 HPC 集群等环境中部署，配合 systemd 服务状态检查维持长期运行。

安装与获取步骤

1. 确认平台与前置条件：先确定目标是 macOS、Windows、Linux 还是 Docker 环境，核对系统要求并检查网络连接状态，网络不通是获取失败最常见的原因之一。
2. 获取安装包：在官方渠道下载对应平台的安装包；Windows 可直接双击完成一键安装，也可尝试 Scoop 等包管理器，获取失败时按下方排查清单逐条处理。
3. 配置环境变量（Windows）：安装完成后打开系统环境变量设置，按实际需求添加 Ollama 相关参数，保存后重新打开终端窗口使设置生效。
4. 启动并验证服务：Windows 与 macOS 通过任务栏或菜单栏图标确认程序正在运行；Linux 执行 sudo systemctl status ollama.service 查看服务是否稳定运行。
5. 拉取并运行模型：执行 ollama pull [模型名] 下载模型，用 ollama list 核对本机列表，再用 ollama run [模型名] 进入对话验证结果。
6. 导入自定义模型：创建名为 Modelfile 的文件，写入 FROM 指令并指向本地 GGUF 文件路径，执行导入命令生成模型，随后用 ollama run 调用。

常见问题排查

• 提示模型不存在：先执行 ollama list 查看已拉取列表，确认模型名拼写无误，缺失则用 ollama pull [模型名] 重新拉取后再运行。
• Scoop 获取失败：依次检查网络连接状态、清理 Scoop 缓存、确认使用的 Ollama 版本正确、手动下载安装包、核对系统要求、处理权限问题、验证文件完整性。
• 服务连不上：Linux 下用 sudo systemctl status ollama.service 查看报错，再确认网络配置能连通服务端口，之后在浏览器输入本地地址访问界面，具体地址以官方页面为准。
• 内存不释放：关闭对话后若内存长期不回落，需要手动释放后重启服务；macOS 下可用命令行方式结束进程再重新启动。
• 升级方式：macOS 与 Windows 点击任务栏或菜单栏图标选择“重启以更新”，也可手动下载最新版本；Linux 与 Docker 环境以官方页面为准。

注意事项

• 环境变量改动需要重新打开终端或重启服务才会生效，改完直接在旧窗口执行命令容易读到旧配置。
• ollama run 报“模型不存在”时不要反复重试，先用 ollama list 核对列表与模型名，再用 ollama pull 补齐缺失项。
• 内存长时间不回落时，需要手动释放后重启 Ollama，不要默认它会自动回收占用。
• 自动更新需要点击任务栏或菜单栏图标中的“重启以更新”才会应用，且升级前应确认当前网络可达。
• 对接 WebUI 或办公套件之前，先确认服务状态与端口连通性，避免前端连不上后端就误判为模型问题。
• 文中未给出的版本号、参数取值、端口与文件信息一律以官方页面为准，不要直接照抄他人环境的配置。