ollama入门 Windows下载

它是什么Ollama 是开源的大模型本地部署工具,支持 Windows 一键安装,无需 GPU 即可运行。

Ollama 是开源的大模型本地部署工具,支持 Windows 一键安装,无需 GPU 即可运行。本页介绍下载、环境变量配置、模型运行及常见问题。

👤
作者:谢林峰 | 更新:2026-10-16
软件信息
更新 2026-10-16

详细介绍

简介

Ollama 是一个开源的大语言模型部署服务工具,旨在简化在本地运行大型语言模型的过程。它支持 Windows、macOS 和 Linux 三大主流操作系统,用户只需通过简单的命令行操作即可下载并运行模型,无需依赖云端 API 或高性能 GPU。Ollama 特别适合希望保护隐私、降低使用成本或离线工作的开发者、研究人员和 AI 爱好者。其核心优势在于一键部署、完全免费、支持多种主流模型(如 Kimi、GLM 等),并且提供了本地 API 接口,方便集成到其他应用中。本页将基于官方文档和社区教程,为你梳理 Windows 平台上的下载、安装、配置与验证流程。

核心功能

  • 一键部署:通过简单命令即可下载并运行大语言模型,无需手动配置依赖环境。
  • 本地运行:模型完全在本地执行,数据不出设备,保障隐私安全。
  • 跨平台支持:覆盖 Windows、macOS、Linux,且 Windows 安装程序无需管理员权限。
  • 本地 API:提供与 OpenAI 兼容的 REST API,便于集成到自定义应用中。
  • 模型管理:支持导入 GGUF 格式模型,通过 Modelfile 创建自定义模型。
  • 轻量级设计:仅需 CPU 即可运行,降低硬件门槛。

使用场景

  • 个人学习:在本地实验大语言模型,无需支付 API 费用。
  • 隐私敏感场景:处理敏感数据时,确保数据不离开本地设备。
  • 离线环境:在没有网络连接的情况下,依然可以使用大模型能力。
  • 开发测试:利用本地 API 快速原型验证,避免云端延迟。
  • 教学演示:在课堂或工作坊中展示大模型部署流程。

安装与获取步骤

  1. 访问 Ollama 官方网站(https://ollama.com/)或 GitHub 仓库(https://github.com/ollama/ollama),下载适用于 Windows 的安装程序 OllamaSetup.exe。
  2. 运行安装程序,它会安装到当前用户账户下,无需管理员权限。安装完成后,Ollama 通常会自动启动并在后台运行。
  3. 配置环境变量(可选):如需自定义模型存储路径或设置代理,可在系统环境变量中添加 OLLAMA_MODELS 等变量,指向你期望的目录。
  4. 验证安装:打开命令提示符或 PowerShell,输入 ollama --version,若显示版本信息则安装成功。
  5. 运行模型:使用 ollama run <模型名> 命令,例如 ollama run llama3,Ollama 会自动下载并启动模型。

与同类方案的区别

与 LM Studio 相比,Ollama 以命令行和本地 API 为核心,更注重脚本化和自动化集成;而 LM Studio 提供完整的桌面图形界面,适合纯交互式使用。Ollama 的安装包轻量,且支持通过 Modelfile 灵活定制模型,适合开发者深度控制。此外,Ollama 的模型库覆盖广泛,且社区活跃,更新频繁。

注意事项

  • 首次运行模型时需下载权重文件,请确保网络稳定,且磁盘空间充足(模型大小从数百 MB 到数 GB 不等)。
  • 若需修改模型存储路径,务必在启动 Ollama 服务前设置环境变量,否则可能不生效。
  • Windows 防火墙可能拦截 Ollama 的本地 API 端口(默认 11434),若需外部访问,请手动放行。
  • Ollama 支持 GPU 加速,但默认使用 CPU 运行;如需启用 GPU,请确认显卡驱动和 CUDA 环境(以官方文档为准)。
  • 使用 ollama stop <模型名> 可停止模型,避免占用内存。
  • 若遇到模型加载失败,可尝试更新 Ollama 至最新版本,或检查模型名称是否拼写正确。

常见问题

Q1: 安装 Ollama 后,命令提示符中找不到 ollama 命令怎么办?

请检查安装路径是否已加入系统 PATH 环境变量。默认安装位置为 %LOCALAPPDATA%\Programs\Ollama,可手动将该路径添加到 PATH,然后重新打开命令提示符。

Q2: 运行 ollama run 时提示“模型不存在”或“下载失败”怎么办?

确认模型名称拼写正确,可先运行 ollama list 查看已下载的模型。若网络问题导致下载失败,可尝试配置代理或更换网络环境。

Q3: 如何修改模型默认存储目录?

在系统环境变量中新建 OLLAMA_MODELS,指向你希望的目录(如 D:\ollama_models),然后重启 Ollama 服务。注意:旧模型不会自动迁移,需手动移动。

Q4: Ollama 是否支持 GPU 加速?

支持。Windows 上若安装有 NVIDIA 显卡并配置好 CUDA,Ollama 会自动利用 GPU。若未检测到,可检查驱动版本或使用 CPU 模式。

Q5: 如何让局域网内其他设备访问我的 Ollama 服务?

默认 Ollama 只监听 127.0.0.1,需设置环境变量 OLLAMA_HOST 为 0.0.0.0,并确保防火墙放行 11434 端口。注意安全风险,建议仅在可信网络中使用。

Q6: Ollama 与 LM Studio 哪个更适合我?

若你偏好命令行和脚本集成,选 Ollama;若偏好图形界面和直接聊天,选 LM Studio。两者都支持本地运行,但 Ollama 更轻量,LM Studio 界面更友好。

Q7: 如何导入自定义的 GGUF 模型?

创建一个 Modelfile,内容为 FROM ./path/to/model.gguf,然后运行 ollama create mymodel -f Modelfile,即可创建并运行自定义模型。

Q8: 运行多个模型时内存不足怎么办?

使用 ollama stop 停止不用的模型,或减少同时运行的模型数量。也可调整模型参数(如上下文长度)来降低内存占用。

更新记录

最近更新:2026-10-16

软件参数速览

下载文件名Ollama-windows.zip(latest · Windows · 1491.9 MB)
其他安装包ollama-windows-amd64-mlx.zip(0.40.3 · Windows · 1.31 GB)
本站更新时间2026-10-16

参数对比

项目ollama入门 Windows下载ollama入门 Windows下载
版本latest0.40.3
大小1491.9 MB1.31 GB
平台winwin
网盘夸克百度

历史版本

本站收录该软件的多个真实版本,可按下表选用:

版本平台大小网盘入口官网
latest win 1491.9 MB 夸克 ollama入门 Windows下载 latest(查看/下载) ——
0.40.3 win 1.31 GB 百度 ollama入门 Windows下载 0.40.3(查看/下载) ——

下载

⚡
国内下载加速

本站提供夸克 / 百度 / 蓝奏网盘转存下载,国内访问快、不限速,转存后即可高速下载。网盘链接均经人工审核,失效可反馈补链。

国内下载(推荐)

下载由本站收录的国内网盘提供(夸克 / 百度 / 蓝奏),国内访问快、不限速;网盘链接均经审核,如失效欢迎反馈。

常见问题

安装 Ollama 后,命令提示符中找不到 ollama 命令怎么办?

请检查安装路径是否已加入系统 PATH 环境变量。默认安装位置为 %LOCALAPPDATA%\Programs\Ollama,可手动将该路径添加到 PATH,然后重新打开命令提示符。

运行 ollama run 时提示“模型不存在”或“下载失败”怎么办?

确认模型名称拼写正确,可先运行 ollama list 查看已下载的模型。若网络问题导致下载失败,可尝试配置代理或更换网络环境。

如何修改模型默认存储目录?

在系统环境变量中新建 OLLAMA_MODELS,指向你希望的目录(如 D:\ollama_models),然后重启 Ollama 服务。注意:旧模型不会自动迁移,需手动移动。

Ollama 是否支持 GPU 加速?

支持。Windows 上若安装有 NVIDIA 显卡并配置好 CUDA,Ollama 会自动利用 GPU。若未检测到,可检查驱动版本或使用 CPU 模式。

如何让局域网内其他设备访问我的 Ollama 服务?

默认 Ollama 只监听 127.0.0.1,需设置环境变量 OLLAMA_HOST 为 0.0.0.0,并确保防火墙放行 11434 端口。注意安全风险,建议仅在可信网络中使用。

Ollama 与 LM Studio 哪个更适合我?

若你偏好命令行和脚本集成,选 Ollama;若偏好图形界面和直接聊天,选 LM Studio。两者都支持本地运行,但 Ollama 更轻量,LM Studio 界面更友好。

如何导入自定义的 GGUF 模型?

创建一个 Modelfile,内容为 FROM ./path/to/model.gguf,然后运行 ollama create mymodel -f Modelfile,即可创建并运行自定义模型。

运行多个模型时内存不足怎么办?

使用 ollama stop 停止不用的模型,或减少同时运行的模型数量。也可调整模型参数(如上下文长度)来降低内存占用。

相关推荐