ollama完全指南 Windows下载

它是什么面向Windows用户的Ollama本地大模型运行指南,涵盖下载、安装、配置、模型管理与调用,一条命令即可在本地启动DeepSeek、Qwen等主流模型。

面向Windows用户的Ollama本地大模型运行指南,涵盖下载、安装、配置、模型管理与调用,一条命令即可在本地启动DeepSeek、Qwen等主流模型。

👤
作者:谢林峰 | 更新:2026-10-17
软件信息
更新 2026-10-17

详细介绍

简介

Ollama是一个免费开源的本地大语言模型运行工具,支持Windows、Linux、macOS及Docker环境。它允许用户仅通过一行命令即可下载并运行DeepSeek、Qwen等主流开源模型,无需复杂的环境配置。Ollama解决了本地部署大模型时依赖云端、数据隐私泄露以及安装配置繁琐的问题,特别适合开发者、数据科学家、AI爱好者以及需要在离线或内网环境使用大模型的团队。其核心优势在于轻量级、跨平台、命令行驱动,并提供本地REST API,便于集成到各类应用中。本页聚焦Windows平台,提供从下载、安装到配置与使用的完整指引。

核心功能

  • 一键安装:Windows用户可通过官方安装程序OllamaSetup.exe完成安装,无需管理员权限,安装后即可在命令行使用。
  • 模型管理:支持下载、运行、删除多种开源模型(如DeepSeek、Qwen、Llama等),模型列表可通过ollama list查看。
  • 命令行交互:使用ollama run <模型名>直接进入对话界面,支持流式输出、上下文管理。
  • 本地API服务:Ollama默认在11434端口启动REST API,支持OpenAI兼容接口,方便接入Python、Java、JavaScript等编程语言。
  • 自定义模型导入:支持从GGUF、PyTorch或Safetensors格式导入自定义模型,满足个性化需求。
  • 跨平台一致性:在Windows、Linux、macOS上命令与行为一致,便于多环境迁移。

使用场景

  • 本地开发调试:开发者可在本地运行大模型,用于代码生成、文本摘要、对话测试,无需网络依赖。
  • 隐私敏感应用:处理医疗、金融等敏感数据时,数据不出本机,满足合规要求。
  • 离线环境使用:在无外网的内网环境中,提前下载模型后即可离线运行。
  • 教育与研究:学生和研究人员可低成本体验大模型,进行实验与对比分析。
  • 集成到应用:通过API将Ollama接入聊天机器人、自动化工作流(如与n8n、Continue等工具结合)。

安装与获取步骤

  1. 访问Ollama官方网站(https://ollama.com/download),下载适用于Windows的安装程序OllamaSetup.exe。
  2. 运行下载的安装程序,按提示完成安装。安装程序会在当前用户账户下安装,无需管理员权限。
  3. 安装完成后,打开命令提示符(CMD)或PowerShell,输入ollama --version验证安装是否成功,若显示版本号则安装成功。
  4. 下载并运行模型:输入ollama run qwen2.5(或其他模型名),首次运行会自动下载模型,之后即可交互对话。
  5. 配置环境变量(可选):如需修改模型存储位置或API端口,可设置OLLAMA_MODELS、OLLAMA_HOST等环境变量,具体参考官方文档。

与同类方案的区别

Ollama与LM Studio、LocalAI等工具定位不同。Ollama完全开源,以命令行和本地API为核心,强调自动化与脚本集成,适合开发者;LM Studio更侧重图形界面探索,但核心桌面端并非完全开源;LocalAI同样开源,但更注重与OpenAI API的兼容性。在Windows平台上,Ollama支持NVIDIA CUDA加速,性能表现与LM Studio相当,但配置更简单。

注意事项

  • 模型下载需要网络连接,且模型文件较大(数GB),请确保磁盘空间充足。
  • 首次运行模型时需等待下载完成,速度取决于网络带宽。
  • 若需使用GPU加速,请确保NVIDIA驱动与CUDA环境正确配置,否则可能回退到CPU运行。
  • 默认API端口为11434,若端口被占用,可通过环境变量OLLAMA_HOST修改。
  • Ollama会定期更新以支持新模型,建议定期检查更新。
  • 在Windows上,若遇到命令行无法识别ollama命令,请检查是否将安装目录添加到了PATH环境变量。

常见问题

Q1: 如何更改Ollama模型存储位置?

设置环境变量OLLAMA_MODELS指向新目录,例如set OLLAMA_MODELS=D:\ollama_models,然后重启Ollama服务。

Q2: 安装后运行ollama提示不是内部或外部命令?

这通常是PATH未包含Ollama安装目录。可手动将Ollama安装路径(如C:\Users\用户名\AppData\Local\Programs\Ollama)添加到系统环境变量PATH中,然后重新打开命令提示符。

Q3: 如何查看已下载的模型列表?

在命令行输入ollama list,会显示所有已下载的模型名称、标签和大小。

Q4: 如何删除不再使用的模型?

使用ollama rm 模型名命令,例如ollama rm qwen2.5,可释放磁盘空间。

Q5: 如何通过API调用Ollama?

Ollama默认在http://localhost:11434提供API,可使用curl或编程语言发送POST请求,例如curl http://localhost:11434/api/generate -d '{"model": "qwen2.5", "prompt": "Hello"}'。

Q6: 在Windows上如何设置Ollama开机自启?

可将Ollama的快捷方式放入启动文件夹,或使用任务计划程序创建开机任务,运行ollama serve命令。

Q7: 为什么模型运行速度很慢?

可能原因包括:未启用GPU加速、模型过大超出内存、或CPU性能不足。检查是否安装NVIDIA驱动,并确认Ollama日志中是否使用了CUDA。

Q8: Ollama支持哪些模型格式?

Ollama支持GGUF、PyTorch、Safetensors等格式,可通过ollama import命令导入自定义模型。

更新记录

最近更新:2026-10-17

软件参数速览

下载文件名Ollama-windows.zip(latest · Windows · 1491.9 MB)
其他安装包ollama-windows-amd64-mlx.zip(0.40.3 · Windows · 1.31 GB)
本站更新时间2026-10-17

参数对比

项目ollama完全指南 Windows下载ollama完全指南 Windows下载
版本latest0.40.3
大小1491.9 MB1.31 GB
平台winwin
网盘夸克百度

历史版本

本站收录该软件的多个真实版本,可按下表选用:

版本平台大小网盘入口官网
latest win 1491.9 MB 夸克 ollama完全指南 Windows下载 latest(查看/下载) ——
0.40.3 win 1.31 GB 百度 ollama完全指南 Windows下载 0.40.3(查看/下载) ——

下载

⚡
国内下载加速

本站提供夸克 / 百度 / 蓝奏网盘转存下载,国内访问快、不限速,转存后即可高速下载。网盘链接均经人工审核,失效可反馈补链。

国内下载(推荐)

下载由本站收录的国内网盘提供(夸克 / 百度 / 蓝奏),国内访问快、不限速;网盘链接均经审核,如失效欢迎反馈。

常见问题

如何更改Ollama模型存储位置?

设置环境变量OLLAMA_MODELS指向新目录,例如set OLLAMA_MODELS=D:\ollama_models,然后重启Ollama服务。

安装后运行ollama提示不是内部或外部命令?

这通常是PATH未包含Ollama安装目录。可手动将Ollama安装路径(如C:\Users\用户名\AppData\Local\Programs\Ollama)添加到系统环境变量PATH中,然后重新打开命令提示符。

如何查看已下载的模型列表?

在命令行输入ollama list,会显示所有已下载的模型名称、标签和大小。

如何删除不再使用的模型?

使用ollama rm 模型名命令,例如ollama rm qwen2.5,可释放磁盘空间。

如何通过API调用Ollama?

Ollama默认在http://localhost:11434提供API,可使用curl或编程语言发送POST请求,例如curl http://localhost:11434/api/generate -d '{"model": "qwen2.5", "prompt": "Hello"}'。

在Windows上如何设置Ollama开机自启?

可将Ollama的快捷方式放入启动文件夹,或使用任务计划程序创建开机任务,运行ollama serve命令。

为什么模型运行速度很慢?

可能原因包括:未启用GPU加速、模型过大超出内存、或CPU性能不足。检查是否安装NVIDIA驱动,并确认Ollama日志中是否使用了CUDA。

Ollama支持哪些模型格式?

Ollama支持GGUF、PyTorch、Safetensors等格式,可通过ollama import命令导入自定义模型。

相关推荐