ollama便携版 官方版

它是什么Ollama 是开源的大语言模型本地部署工具,支持 macOS、Windows、Linux,只需 CPU 即可运行,提供命令行界面与 API,适合开发者和 AI 爱好者快速体验本地模型。

Ollama 是开源的大语言模型本地部署工具,支持 macOS、Windows、Linux,只需 CPU 即可运行,提供命令行界面与 API,适合开发者和 AI 爱好者快速体验本地模型。

🏢
内容整理:知办库编辑部 | 更新:2026-11-11
软件信息
更新 2026-11-11

详细介绍

简介

Ollama 是一个开源的大语言模型部署服务工具,旨在让用户在本地或云端轻松运行和构建开放 AI 模型。它支持 macOS、Windows 和 Linux 三大平台,即使只有 CPU 也能完成模型部署,极大降低了本地运行大模型的门槛。Ollama 解决了传统大模型部署复杂、依赖 GPU 的问题,适合开发者、AI 爱好者以及希望在本地保护数据隐私的用户。其核心优势在于一键安装、命令行操作简单、模型管理方便,并且提供了与 OpenAI 兼容的 API 接口,便于集成到现有应用中。

核心功能

  • 本地运行大语言模型:支持 Llama 3、Mistral 等开放权重模型,无需联网即可推理。
  • 跨平台支持:覆盖 macOS、Windows、Linux,并提供一键安装脚本。
  • 命令行界面:通过 ollama run、ollama pull 等命令管理模型,操作直观。
  • API 服务:默认提供 REST API,可与其他应用集成,支持流式输出。
  • 模型管理:支持下载、删除、列出本地模型,并可自定义模型参数。
  • 轻量级部署:在 CPU 环境下即可运行,适合资源有限的设备。
  • 开源可扩展:基于 llama.cpp 等开源组件,社区活跃,可二次开发。

使用场景

  • 本地开发测试:开发者可在本地快速验证模型效果,无需申请云端 GPU 资源。
  • 隐私敏感应用:处理医疗、金融等敏感数据时,模型完全本地运行,避免数据外泄。
  • 离线环境使用:在没有网络的场景下,预先下载模型后即可离线推理。
  • 教学与学习:AI 学习者通过 Ollama 快速上手大模型部署,理解推理流程。
  • 轻量级服务:在 4GB 内存的 VPS 上部署小型模型,提供 API 服务。

安装与获取步骤

  1. 访问官网 https://ollama.com/ 下载对应系统的安装包,Windows 用户可获取 OllamaSetup.exe。
  2. 双击安装程序,按提示完成安装;Linux 用户可使用官方一键安装脚本,或手动安装。
  3. 安装完成后,在终端运行 ollama run llama3 等命令拉取并运行模型。
  4. 验证安装:执行 ollama list 查看本地模型列表,或 ollama --version 确认版本。
  5. 如需自定义模型,可通过 Modelfile 创建,并用 ollama create 加载。

与同类方案的区别

相比 vLLM 等高性能推理框架,Ollama 更注重易用性和低资源占用,适合本地开发;相比 LocalAI,Ollama 在内存管理上更友好,新手入门更快;相比 LM Studio,Ollama 提供命令行和 API,更适合脚本化集成。但 Ollama 对大规模并发和生产环境支持较弱,高吞吐场景建议选择 vLLM。

注意事项

  • 模型下载需网络,首次拉取可能耗时,建议在网络稳定时操作。
  • CPU 运行速度较慢,大模型推理可能延迟明显,建议根据硬件选择合适尺寸的模型。
  • 默认 API 端口为 11434,若端口被占用需调整配置。
  • Ollama 作为软件是开源的,但部分模型权重可能有各自许可,使用前请确认。
  • 在 Windows 上,旧版本可能需要通过 WSL 运行,新版本已原生支持,请以官方页面为准。
  • 环境变量如 OLLAMA_MODELS 可自定义模型存储路径,避免占用系统盘。

更新记录

最近更新:2026-11-11

软件参数速览

下载文件名Ollama-windows.zip(latest · Windows · 1491.9 MB)
其他安装包ollama-windows-amd64-mlx.zip(0.40.3 · Windows · 1.31 GB)
本站更新时间2026-11-11

参数对比

项目ollama便携版 官方版ollama便携版 官方版
版本latest0.40.3
大小1491.9 MB1.31 GB
平台winwin
网盘夸克百度

历史版本

本站收录该软件的多个真实版本,可按下表选用:

版本平台大小网盘入口官网
latest win 1491.9 MB 夸克 ollama便携版 官方版 latest(查看/下载) ——
0.40.3 win 1.31 GB 百度 ollama便携版 官方版 0.40.3(查看/下载) ——

下载

⚡
国内下载加速

本站提供夸克 / 百度 / 蓝奏网盘转存下载,国内访问快、不限速,转存后即可高速下载。网盘链接均经人工审核,失效可反馈补链。

国内下载(推荐)

下载由本站收录的国内网盘提供(夸克 / 百度 / 蓝奏),国内访问快、不限速;网盘链接均经审核,如失效欢迎反馈。

常见问题

Ollama 在 Windows 上安装后无法运行,提示缺少 DLL 怎么办?

检查是否安装了最新版 Visual C++ 运行库,或尝试以管理员身份运行安装程序。若问题持续,可到官网重新下载安装包,并确保系统为 64 位。

如何更改 Ollama 的模型存储目录?

设置环境变量 OLLAMA_MODELS 为自定义路径,然后重启 Ollama 服务。例如在 Windows 中通过系统属性添加用户变量,Linux 中可写入 ~/.bashrc。

Ollama 支持哪些模型?如何查看可用模型?

Ollama 支持 Llama 3、Mistral、Phi 等开放权重模型。在终端运行 ollama list 查看本地模型,或访问官网模型库浏览全部支持列表。

Ollama 与 vLLM 在性能上有何区别?

vLLM 针对高并发生产环境优化,吞吐量高;Ollama 更注重易用性和低资源占用,适合本地开发。在 4GB 内存的 VPS 上,Ollama 可运行小型模型,而 vLLM 可能内存不足。

在 Linux 上如何通过命令行安装 Ollama?

使用官方一键脚本:curl -fsSL https://ollama.com/install.sh | sh。脚本会自动下载组件并完成配置,安装后运行 ollama --version 验证。

Ollama 的 API 如何调用?

启动 Ollama 后,默认监听 11434 端口。可通过 POST http://localhost:11434/api/generate 发送请求,参数包含 model 和 prompt,支持流式返回。

Ollama 在 macOS 上是否支持 Apple Silicon?

支持。Ollama 原生支持 macOS,包括 Apple Silicon 芯片,可利用 Metal 加速。安装后直接运行 ollama run 即可。

Ollama 是否完全开源?

Ollama 作为软件是开源的,其核心基于 llama.cpp 等开源组件。但部分模型权重可能有独立许可,使用前请查看模型的具体条款。

相关推荐