ollama环境配置 电脑版下载

简介

Ollama 是一个开源的大语言模型管理工具，用于在本地电脑上部署和运行各类主流模型，如 Llama、DeepSeek、Qwen 等。它解决了传统模型部署中依赖环境复杂、配置繁琐的问题，用户只需一条命令即可完成模型的下载、运行和管理，无需手动配置 CUDA 等底层环境。Ollama 支持 Windows、macOS、Linux 三种主流操作系统，并提供 Docker 部署方式，适合开发者、研究人员以及对本地 AI 应用感兴趣的普通用户。其核心优势在于轻量级、资源占用低、模型库丰富，并且完全开源免费，能够满足从学习实验到生产开发的多层次需求。

核心功能

• 一键安装与运行：在 Windows、macOS、Linux 上提供图形化安装包，安装后通过命令行即可启动模型服务。
• 模型管理：支持从官方模型库一键下载、更新、删除模型，并自动处理模型依赖，无需手动配置 CUDA 等。
• 环境变量配置：可自定义模型存储路径（OLLAMA_MODELS）、服务监听地址（OLLAMA_HOST）、端口等参数，灵活适配不同场景。
• 跨平台支持：覆盖三大主流桌面操作系统，并支持在 Docker 容器中运行，便于服务器部署。
• 本地 API 服务：启动后默认在 127.0.0.1:11434 提供 REST API，方便与外部应用集成。
• 模型导入：支持从 GGUF、PyTorch、Safetensors 等格式导入自定义模型，扩展使用范围。

使用场景

• 本地开发测试：开发者可在本地快速运行开源模型，验证 prompt 效果或构建 AI 应用原型。
• 学习与研究：学生和研究人员无需高性能服务器，即可在个人电脑上体验主流大模型。
• 隐私敏感场景：所有数据在本地处理，避免将敏感信息上传到云端。
• 离线环境使用：在没有网络或内网环境中，预先下载模型后即可离线运行。
• 与自动化工具集成：结合 OpenClaw、飞书等工具，实现本地 AI 助手或自动回复系统。

安装与获取步骤

1. 访问 Ollama 官方网站（https://ollama.com/）下载对应操作系统的安装包，Windows 用户选择 .exe 文件，macOS 用户选择 .dmg 文件，Linux 用户可使用官方安装脚本。
2. 双击安装包完成安装，安装过程与普通软件一致，无需额外配置。
3. 安装完成后，在终端或命令提示符中运行 ollama --version 验证安装是否成功。
4. 配置环境变量：在 Windows 中，通过「系统属性 → 环境变量」添加用户或系统变量，例如设置 OLLAMA_MODELS 指向自定义模型存储目录，OLLAMA_HOST 设置为 0.0.0.0 以允许局域网访问。
5. 下载并运行模型：执行 ollama run llama3 或 ollama run qwen 等命令，首次运行会自动下载模型。
6. 如需通过 Docker 部署，可参考官方文档或社区教程，使用镜像启动容器。

与同类方案的区别

与 vLLM 等高性能推理框架相比，Ollama 更侧重于本地开发与轻量部署，安装简单、资源占用低，适合个人电脑；而 vLLM 面向生产环境，追求高吞吐和低延迟，需要更专业的硬件和配置。Ollama 还提供了丰富的模型库和简单的命令行交互，降低了使用门槛。

注意事项

• 默认模型存储路径位于系统盘（如 C 盘），若磁盘空间有限，建议通过环境变量 OLLAMA_MODELS 迁移到其他分区。
• 默认服务仅监听 127.0.0.1，若需局域网访问，需设置 OLLAMA_HOST 为 0.0.0.0，并确保防火墙放行对应端口（默认 11434）。
• 在 Windows 上配置环境变量后，需重新打开终端或重启系统才能生效。
• 下载模型时需保持网络畅通，模型文件较大（数 GB），建议使用稳定的网络环境。
• 若使用代理或 VPN，可能影响模型下载，可尝试配置代理环境变量。
• Ollama 支持多平台，但不同系统的环境变量配置方式略有差异，Linux 下可能需要使用 systemd 或 export 命令设置。