ollama如何使用 Windows下载

简介

Ollama 是一个用于在本地或云端运行开源 AI 模型的开源项目，支持 macOS、Windows 和 Linux 平台。在 Windows 上，Ollama 提供一键安装程序，无需管理员权限即可完成部署，让用户能够轻松下载、运行和管理 Kimi、GLM、Qwen 等开源大模型。它解决了在本地环境部署大模型时常见的依赖复杂、命令繁琐问题，适合开发者、数据科学家以及希望离线使用 AI 模型的个人用户。其核心优势在于安装简单、模型管理统一，并提供命令行与 API 接口，便于集成到现有工作流中。

核心功能

• 一键安装：通过 OllamaSetup.exe 安装程序，在用户账户内完成安装，无需管理员权限。
• 本地模型运行：支持在 CPU 或 GPU 上运行多种开源模型，如 Kimi、GLM、Qwen 系列。
• 模型管理命令：提供 pull、run、list 等命令行操作，方便下载、启动和查看本地模型。
• 环境变量配置：可自定义模型下载路径、OLLAMA_HOST 等参数，灵活控制存储与访问。
• API 接口支持：提供 REST API，便于从其他应用或脚本中调用模型，支持 Python、JavaScript 等语言。
• 跨平台一致性：在 Windows、macOS、Linux 上保持相似的命令行体验，降低迁移成本。

使用场景

• 本地开发调试：在 Windows 上快速拉起一个开源模型，用于测试提示词、评估模型输出。
• 离线 AI 助手：在没有网络或需要数据隐私的环境下，通过 Ollama 运行本地模型，避免数据上传。
• 教学与学习：学生或研究者通过 Ollama 实践大模型部署，理解模型推理与资源消耗。
• 集成到应用：通过 API 将 Ollama 接入自建应用，例如使用 AnythingLLM、Open WebUI 等前端工具构建本地 AI 平台。
• 与 IDE 协同：配合 Cline、Goose 等开源 AI 编码工具，在 Windows 上实现本地代码辅助。

安装与获取步骤

1. 访问 Ollama 官方网站（https://ollama.com/）或 GitHub 仓库（https://github.com/ollama/ollama），下载适用于 Windows 的安装程序 OllamaSetup.exe。
2. 运行 OllamaSetup.exe，按照提示完成安装。安装程序会在当前用户账户下安装，无需管理员权限，安装完成后 Ollama 会自动启动。
3. 打开命令提示符或 PowerShell，输入 ollama --version 验证安装是否成功，若显示版本号则说明安装正常。
4. 如需修改模型存储路径，在安装前或安装后设置环境变量。例如在终端中执行 setx OLLAMA_MODELS "D:\ollama_models"，然后重启终端或 Ollama 服务。
5. 配置网络访问：若需允许局域网或外部访问，设置环境变量 OLLAMA_HOST 为 0.0.0.0 或指定 IP，并确保防火墙放行对应端口。
6. 下载并运行模型：执行 ollama pull qwen3.5:4b 拉取模型，然后使用 ollama run qwen3.5:4b 启动交互式对话。

与同类方案的区别

相比在 Windows 上通过 WSL 或手动配置 Python 环境运行模型，Ollama 提供了原生 Windows 安装程序，降低了入门门槛。与 Docker 镜像（如 ollama/ollama）相比，直接安装版无需额外容器管理，更轻量。但 Ollama 主要聚焦于模型运行与 API，不提供图形界面，需要配合 Open WebUI 等工具才能获得可视化体验。

注意事项

• 安装程序默认将模型存储在用户目录，若磁盘空间不足，请提前修改 OLLAMA_MODELS 环境变量指向其他盘符。
• 修改环境变量后需重启命令提示符或 Ollama 服务，否则可能不生效。
• Ollama 会定期更新以支持新模型，建议定期检查官方页面获取最新版本，但不要随意下载非官方渠道的安装包。
• 在防火墙中放行 Ollama 使用的端口（默认 11434），否则局域网或外部访问可能失败。
• 运行大型模型时注意内存与显存占用，若系统资源不足，可考虑使用量化版本模型（如 Qwen3.5:4b）以降低需求。
• 若使用代理或 VPN，可能影响模型下载速度，可尝试配置系统代理或手动下载模型文件。
• 卸载 Ollama 时，模型文件可能残留在原存储目录，如需彻底清理，请手动删除对应文件夹。

常见问题

• 安装后命令行找不到 ollama 命令：检查是否以管理员身份运行了终端，或重启系统让环境变量生效。
• 模型下载速度慢：可尝试更换网络环境，或使用镜像源（如有），但需注意来源可靠性。
• 运行模型时提示内存不足：尝试使用更小的模型版本（如 4b 而非 27b），或关闭其他占用内存的应用。
• 局域网其他设备无法访问：确认 OLLAMA_HOST 已设置为 0.0.0.0，并检查 Windows 防火墙入站规则。
• 与 Docker 版 Ollama 冲突：若同时安装，注意端口占用，可修改 OLLAMA_HOST 或 Docker 映射端口。

FAQ

1. 问：Ollama 在 Windows 上安装需要管理员权限吗？
   答：不需要。OllamaSetup.exe 会安装在当前用户账户下，无需管理员权限，但安装路径默认在用户目录，若想安装到其他位置可能需要手动调整。
2. 问：如何修改 Ollama 的模型下载路径？
   答：在安装前或安装后设置环境变量 OLLAMA_MODELS，例如在命令提示符执行 setx OLLAMA_MODELS "D:\ollama_models"，然后重启终端或 Ollama 服务。
3. 问：Ollama 支持哪些 Windows 版本？
   答：官方未明确列出最低版本，但建议使用 Windows 10 或 Windows 11 的 64 位系统，并确保系统已更新到最新补丁。
4. 问：如何让 Ollama 允许局域网内其他设备访问？
   答：设置环境变量 OLLAMA_HOST 为 0.0.0.0，然后重启 Ollama 服务，并确保防火墙放行 11434 端口。
5. 问：Ollama 与 Open WebUI 如何配合使用？
   答：先安装 Ollama 并运行模型，然后安装 Open WebUI（https://docs.openwebui.com/），在配置中指定 Ollama 的 API 地址（默认 http://localhost:11434），即可获得图形界面。
6. 问：运行模型时提示“model not found”怎么办？
   答：先使用 ollama list 查看已下载的模型，若未下载，使用 ollama pull 模型名 拉取，例如 ollama pull qwen3.5:4b。
7. 问：Ollama 能否在 CPU 上运行模型？
   答：可以。Ollama 支持 CPU 推理，但速度较慢，建议使用量化模型（如 4b 版本）以减少资源占用。
8. 问：如何完全卸载 Ollama？
   答：使用 Windows 的“添加或删除程序”卸载 Ollama，然后手动删除模型存储目录（默认在用户目录下的 .ollama 文件夹），以清理残留文件。