ollama环境配置

为什么你的ollama环境总是要重配？

很多人以为ollama装好就能用，结果跑模型时报错、磁盘爆满、下载龟速。问题往往出在环境配置上：默认模型路径占用系统盘、端口冲突、GPU显存分配不当、代理设置缺失。特别是DeepSeek、Qwen这类大模型，动辄几个GB，如果没提前规划目录和变量，重装系统后一切归零。这篇文章会把ollama环境配置的关键细节拆开讲，让你一次配好，长期省心。

核心配置：目录、镜像与GPU

1. 模型存储目录必须“搬迁”

ollama默认把模型放在用户目录下的.ollama/models，系统盘空间紧张时极易爆红。建议通过环境变量OLLAMA_MODELS指定到独立数据盘。以Windows为例，右键“此电脑”->属性->高级系统设置->环境变量，新建变量名OLLAMA_MODELS，变量值如D:\ollama\models；Linux用户则在~/.bashrc或/etc/profile中追加export OLLAMA_MODELS=/data/ollama/models，然后source生效。设置完成后重启ollama服务，再用ollama pull测试文件是否落到新目录。

2. 镜像源与下载加速

国内直接拉取模型经常超时，可配置OLLAMA_HOST和镜像地址。在环境变量中新增OLLAMA_HOST=127.0.0.1:11434，同时使用代理时需设置HTTPS_PROXY或HTTP_PROXY。若使用官方源不稳定，可以临时切换至hf-mirror等社区镜像，方法是在拉取时指定模型地址的baseURL，但注意不要修改OLLAMA_MODELS以外的核心变量，避免兼容性问题。

3. GPU与内存的显式声明

多显卡机器上，默认只使用一块卡。通过OLLAMA_GPU_LAYERS控制卸载到GPU的层数，例如export OLLAMA_GPU_LAYERS=20（按模型层数调整）。如果显存不足导致OOM，可设置OLLAMA_NUM_PARALLEL=1限制并发数，同时调整OLLAMA_MAX_LOADED_MODELS避免多个模型抢占显存。服务端日志中看到CUDA error时，优先检查驱动版本是否匹配CUDA 11.8/12.x。

三步完成标准环境搭建

第一步：安装ollama。Windows/macOS直接运行安装包；Linux执行curl -fsSL https://ollama.com/install.sh | sh。装完确认版本ollama --version。

第二步：按上文设置OLLAMA_MODELS和其他变量。Windows在PowerShell里可用setx OLLAMA_MODELS "D:\ollama\models"永久设置，Linux记得export后重启服务。

第三步：启动服务并测试。执行ollama serve（Windows一般服务已自动启动），再开新终端运行ollama run qwen2.5:7b，首次会自动下载模型。若下载缓慢，可临时设置HTTPS_PROXY再pull。

配置后的注意事项

修改环境变量后必须完全重启ollama进程，不能只关控制台。检查模型路径用ollama list会显示SIZE与MODEL，核对磁盘占用。若跑官方API，注意CORS跨域问题，需要设置OLLAMA_ORIGINS为你的前端域名。生产环境建议开启OLLAMA_KEEP_ALIVE=5m控制模型驻留时间，避免显存一直被占用。升级ollama前备份models目录，新版本可能改变模型索引结构。

遇到底层端口占用时，不要盲目kill进程，用netstat -ano | grep 11434找到PID后确认是不是其他AI工具在占用。若配置完仍无法调用GPU，检查是否有OLLAMA_INTEL_GPU或CUDA_VISIBLE_DEVICES变量干扰。把每次改动记录在案，方便回溯。