ollama环境配置使用教程

简介

Ollama 是一个开源项目，它简化了在本地运行大语言模型的过程，用一条简单命令即可下载并运行模型，无需 API 费用，只要有电脑就能用。这里说的环境配置，指通过系统环境变量对 Ollama 服务做个性化设定：服务绑定的主机地址与端口、模型存储目录、推理设备、缓存路径、并发数与日志级别等。它解决的是三类实际问题：改了配置不生效、模型下载把系统盘塞满、自定义目录导致服务起不来。适合想在 Windows、macOS、Linux 或 Docker 中本地部署大模型的开发者与学习者，核心优势是配置项全部集中在环境变量上，按平台有各自的设置入口，改完开新终端即可生效，不必改动程序代码。

核心功能

• 用 OLLAMA_HOST 指定服务绑定的主机地址和端口，默认值为 127.0.0.1:11434，可按需修改以供其他设备访问。
• 用 OLLAMA_MODELS 指定模型存储目录，把模型放到空间更大的磁盘，避免默认盘被占满。
• 通过灵活的环境变量自定义推理设备（GPU/CPU）、缓存路径、并发数、日志级别等参数。
• 一键部署：通过简单命令即可下载和运行模型，全程在命令行完成。
• 提供本地 API 服务，前提是 Ollama 服务正在运行且已正确设置 OLLAMA_HOST 环境变量。
• 跨平台配置入口统一：Windows 走系统环境变量，macOS 用 launchctl，Linux 用 systemctl，也可用 Docker 部署。
• 配套模型下载与管理、运行与使用模型的完整命令流程，便于反复切换不同模型。

使用场景

• 个人电脑本地开发调试：模型与数据不出机器，适合隐私要求高的实验。
• Windows 机器上把模型存到 D 盘 Ollama 文件夹，对应配置用户环境变量，缓解 C 盘压力。
• 服务器或集群登录节点：安装 Ollama 并下载需要的模型，供多人通过 API 调用。
• Docker 化部署：建议使用 Docker 进行部署，先安装 docker 与 git clone 仓库再启动容器。
• 给 Chatbox 一类客户端接入本地模型，按其 Ollama 本地模型配置指南填写地址与端口。
• 跟随《动手学Ollama》教程学习，从基础入门到进阶使用，并通过实际应用案例理解大模型部署与应用技术。

安装与获取步骤

1. 先确认目标平台与运行方式：Windows、macOS、Linux 或 Docker，各平台系统要求以官方页面为准。
2. Windows 下 Ollama 可以像其他软件一样完成一键安装，不同的是建议按实际需求配置系统环境变量参数。
3. 修改变量前先通过任务栏图标退出 Ollama，再从控制面板编辑系统环境变量，为 OLLAMA_HOST、OLLAMA_MODELS 编辑或新建变量，点击 OK/Apply 保存，然后从新的终端窗口运行 ollama。
4. 需要装到 D 盘 Ollama 文件夹时，按该路径填写对应的用户环境变量，指向新的模型存储位置。
5. macOS 上若 Ollama 作为应用程序运行，应使用 launchctl 设置环境变量。
6. Linux 上若 Ollama 作为 systemd 服务运行，应使用 systemctl 设置：通过 systemctl edit ollama.service 编辑服务，为每个环境变量写入配置后重载。
7. 设置 PATH 后重新启动 ollama 服务，在 ollama 图标上点击右键以管理员身份启动，再在终端输入 ollama run qwen 确认是否可以运行。
8. 用 ollama run 下载并运行所需模型；若走 Docker 路线，先安装 docker 并 git clone 部署仓库，再在容器创建时注入同样的环境变量。

环境变量与参数速查

• OLLAMA_HOST：服务绑定的主机地址与端口，默认 127.0.0.1:11434，调用 API 前必须与客户端填写的地址一致。
• OLLAMA_MODELS：模型存储目录，改到非系统盘可缓解磁盘压力，目录需对运行服务的账号可写。
• PATH：需包含 ollama 可执行文件所在目录，否则终端无法直接调用命令。
• 推理设备、缓存路径、并发数、日志级别等均可通过环境变量调整，具体变量名与取值以官方页面为准。

注意事项

• 环境变量必须在退出 Ollama 后修改，并从新的终端窗口运行；已经打开的旧终端不会读到新变量。
• 自定义模型存储目录可能让服务起不来：ollama 服务在尝试创建该目录时因权限不足而失败，需先为目标目录授权再重启服务。
• 设置 PATH 后要重新启动服务；若终端提示找不到命令，先核对 PATH 是否已生效。
• 调用 API 前确认服务处于运行状态且 OLLAMA_HOST 已正确设置，否则会出现连接被拒绝。
• Docker 方式与宿主机直接运行的变量传递路径不同，变量要在容器创建阶段注入，改宿主机配置不会自动生效。