ollama客户端 安装包

它是什么Ollama 是开源的大语言模型本地部署工具,支持 macOS、Windows、Linux,一条命令即可下载并运行 DeepSeek、Qwen 等模型,适合开发者、学习者和隐私敏感用户。

Ollama 是开源的大语言模型本地部署工具,支持 macOS、Windows、Linux,一条命令即可下载并运行 DeepSeek、Qwen 等模型,适合开发者、学习者和隐私敏感用户。

🏢
内容整理:知办库编辑部 | 更新:2026-11-12
软件信息
更新 2026-11-12

详细介绍

简介

Ollama 是一个开源的大语言模型部署服务工具,由 Go 语言开发,支持在 macOS、Windows 和 Linux 上本地运行或云端构建 AI 模型。它解决了普通用户难以在本地部署大模型的问题,只需一条命令即可下载并运行 DeepSeek、Qwen 等主流模型,无需手动配置依赖或 GPU 环境。Ollama 适合 AI 开发者、机器学习学习者、隐私敏感用户以及希望在无网络环境下使用大模型的个人或团队。其核心优势在于极低的上手门槛:安装客户端后,通过命令行即可完成模型拉取、启动和对话,同时提供 REST API 便于集成到应用中,并能与 LangChain 等框架无缝衔接。

核心功能

  • 跨平台支持:提供 Windows、macOS、Linux 的官方安装包,Windows 下为 OllamaSetup.exe,macOS 为 .dmg 文件,Linux 支持脚本和二进制安装。
  • 一条命令运行模型:通过 ollama run <模型名> 即可拉取并启动模型,例如 ollama run deepseek-r1,无需手动下载模型文件或配置环境变量。
  • 模型管理命令:支持 ollama list 查看已下载模型、ollama pull 拉取新模型、ollama rm 删除模型,以及 ollama serve 启动后台服务。
  • REST API 接口:默认在 11434 端口提供 OpenAI 兼容的 API,可让外部程序调用本地模型,便于集成到 LangChain、Agent 等框架。
  • CPU 运行能力:即使没有 GPU,也能在 CPU 上运行模型,适合低配置环境快速体验。
  • 模型目录可配置:支持自定义模型存储路径,方便管理磁盘空间,避免占用系统盘。

使用场景

  • 本地开发测试:开发者可在本地运行大模型,验证提示词、调试 Agent 流程,无需依赖云端 API,降低成本和延迟。
  • 隐私敏感场景:处理敏感数据时,通过 Ollama 本地部署避免数据上传到云端,满足隐私合规要求。
  • 离线环境使用:在没有网络的内网环境,预先拉取模型后即可离线运行,适用于实验室、隔离网络等场景。
  • 学习与教学:作为学习 LangChain、Agent 开发的配套工具,帮助理解大模型部署和调用的完整流程,Datawhale 等社区提供配套教程。
  • 轻量级推理服务:为小型应用提供本地推理后端,通过 API 接口与前端或脚本交互,替代云端服务。

安装与获取步骤

  1. 访问 Ollama 官网 https://ollama.com/ ,点击 Download 进入下载页面,根据操作系统选择对应安装包。
  2. Windows 用户下载 OllamaSetup.exe,双击运行,按提示完成安装;macOS 用户下载 .dmg 文件,拖入 Applications 文件夹。
  3. Linux 用户可使用官方安装脚本 curl -fsSL https://ollama.com/install.sh | sh,或下载二进制包手动配置 systemd 服务。
  4. 安装完成后,打开终端(Windows 为 CMD 或 PowerShell),输入 ollama --version 验证安装是否成功。
  5. 运行 ollama run qwen2.5 等命令,首次运行会自动拉取模型,等待下载完成后即可进入对话界面。
  6. 如需后台服务,可执行 ollama serve 启动,默认监听 11434 端口,供 API 调用。

与同类方案的区别

与 vLLM 相比,Ollama 更注重本地开发场景的易用性,而 vLLM 面向高性能生产环境;与 LM Studio 相比,Ollama 提供 CLI 和 API,适合脚本化集成,LM Studio 则侧重图形界面交互。Ollama 的模型管理命令和跨平台支持使其成为入门首选,但生产级性能可能不及 vLLM。

注意事项

  • 模型下载体积较大(如 1.47GB 的安装包),需确保磁盘空间充足,并可通过 ollama pull 提前下载模型。
  • 首次运行模型时需联网拉取,后续可离线使用;若网络不稳定,可配置镜像源或手动导入模型文件。
  • 默认模型存储路径在用户目录下,可通过环境变量 OLLAMA_MODELS 修改,避免占用系统盘。
  • 在 Windows 上,旧版本曾需通过 WSL 安装,现官方已提供原生支持,但需确保系统版本满足要求(以官方页面为准)。
  • 运行多个模型时注意内存占用,大模型可能消耗数 GB 内存,建议根据硬件配置选择合适模型。
  • API 默认不设认证,若需对外暴露服务,应通过防火墙或反向代理限制访问。
  • 使用 ollama serve 时,终端需保持开启;若需后台常驻,可配置为系统服务(Linux 使用 systemd)。

更新记录

最近更新:2026-11-12

软件参数速览

下载文件名Ollama-windows.zip(latest · Windows · 1491.9 MB)
其他安装包ollama-windows-amd64-mlx.zip(0.40.3 · Windows · 1.31 GB)
本站更新时间2026-11-12

参数对比

项目ollama客户端 安装包ollama客户端 安装包
版本latest0.40.3
大小1491.9 MB1.31 GB
平台winwin
网盘夸克百度

历史版本

本站收录该软件的多个真实版本,可按下表选用:

版本平台大小网盘入口官网
latest win 1491.9 MB 夸克 ollama客户端 安装包 latest(查看/下载) ——
0.40.3 win 1.31 GB 百度 ollama客户端 安装包 0.40.3(查看/下载) ——

下载

⚡
国内下载加速

本站提供夸克 / 百度 / 蓝奏网盘转存下载,国内访问快、不限速,转存后即可高速下载。网盘链接均经人工审核,失效可反馈补链。

国内下载(推荐)

下载由本站收录的国内网盘提供(夸克 / 百度 / 蓝奏),国内访问快、不限速;网盘链接均经审核,如失效欢迎反馈。

常见问题

Ollama 在 Windows 上安装后,如何验证是否成功?

打开 CMD 或 PowerShell,输入 `ollama --version`,如果显示版本号则安装成功。若提示命令不存在,可检查安装路径是否加入 PATH,或重新运行安装程序。

运行 `ollama run` 时提示模型不存在怎么办?

确保模型名拼写正确,可先运行 `ollama list` 查看已下载模型。若未下载,使用 `ollama pull 模型名` 拉取,或直接运行 `ollama run 模型名` 会自动下载。

Ollama 能否在无 GPU 的电脑上运行?

可以。Ollama 支持纯 CPU 运行,但速度较慢。建议选择参数量较小的模型(如 7B),并确保内存足够(至少 8GB)。

如何修改 Ollama 的模型存储路径?

在系统环境变量中设置 OLLAMA_MODELS 为自定义路径,例如 `set OLLAMA_MODELS=D:\ollama_models`(Windows)或 `export OLLAMA_MODELS=/data/ollama`(Linux),然后重启 Ollama 服务。

Ollama 与 LM Studio 相比,哪个更适合开发者?

Ollama 提供 CLI 和 REST API,便于脚本化和集成到 LangChain 等框架,适合开发者;LM Studio 提供图形界面,更适合非技术用户。若需 API 调用,选 Ollama。

使用 Ollama 时,如何查看当前已下载的模型?

在终端输入 `ollama list`,会列出所有已下载的模型及其标签、大小、修改时间。若列表为空,说明尚未拉取任何模型。

Ollama 的 API 端口是多少?如何调用?

默认端口为 11434,启动 `ollama serve` 后,可通过 `http://localhost:11434/api/generate` 发送 POST 请求,使用 OpenAI 兼容格式。

在 Linux 上如何将 Ollama 设置为开机自启?

使用 systemd 创建服务文件,例如 `/etc/systemd/system/ollama.service`,内容包含 ExecStart 指向 ollama serve,然后执行 `systemctl enable ollama` 和 `systemctl start ollama`。

相关推荐