ollama安装注意事项 电脑版下载

它是什么面向 Windows/macOS/Linux 的 Ollama 本地大模型运行工具安装指引,涵盖下载、部署、模型拉取与常见问题排查,适合零基础开发者快速上手。

面向 Windows/macOS/Linux 的 Ollama 本地大模型运行工具安装指引,涵盖下载、部署、模型拉取与常见问题排查,适合零基础开发者快速上手。

👤
作者:谢林峰 | 更新:2026-10-16
软件信息
更新 2026-10-16

详细介绍

简介

Ollama 是一个面向本地大语言模型运行的开源工具,支持在 Windows、macOS、Linux 以及 Docker 环境中快速下载模型、启动本地服务,并通过命令行或 REST API 调用。它解决了本地部署大模型时环境配置复杂、依赖繁多的问题,无需手动配置 Python 环境或 CUDA 驱动,一条命令即可拉取并运行 Llama、Gemma、Mistral、Qwen 等数百个开源模型。适合希望低门槛体验本地 LLM 的开发者、数据隐私敏感的用户,以及需要离线运行模型的研究者。其核心优势在于跨平台支持、自动硬件加速(NVIDIA GPU 与 Apple Metal)以及内置兼容 OpenAI API 格式的 HTTP 接口(默认 localhost:11434),任何支持 OpenAI 的客户端都能直接接入。

核心功能

  • 一键运行大模型:无需配置 Python 环境与 CUDA 驱动,通过 ollama run 命令即可下载并启动模型。
  • 跨平台支持:同时支持 Windows(Windows 10 22H2 或更新版本)、macOS(Sonoma v14 或更新,Apple M 系列芯片通过 Metal 加速)、Linux 及 Docker。
  • 内置 REST API:自带兼容 OpenAI API 格式的 HTTP 接口,默认监听 localhost:11434,支持 curl 或任意 OpenAI 客户端接入。
  • 模型管理命令:支持 serve、create、show、run 等子命令,可查看本地模型列表、创建自定义模型、显示模型信息。
  • 自动硬件加速:在 NVIDIA GPU 和 Apple Metal 上自动启用硬件加速,纯 CPU 环境也能运行,但生成速度受限于算力。
  • 智能体集成:ollama launch 命令可一键启动 Claude Code、OpenClaw、Codex、Copilot 等编程智能体集成。

使用场景

  • 本地开发调试:在无网络或内网环境中,通过 Ollama 运行开源模型进行代码补全、文本生成等任务。
  • 数据隐私保护:处理敏感数据时,模型完全本地运行,数据不出本机,避免上传云端。
  • 教学与实验:在课堂或实验室中,学生无需 GPU 服务器即可体验大模型推理,理解模型行为。
  • API 服务搭建:利用内置 OpenAI 兼容接口,将 Ollama 作为后端服务,供其他应用或前端调用。
  • 离线环境部署:在隔离网络或受限环境中,通过离线安装包与模型文件实现完整本地推理链路。

安装与获取步骤

  1. 访问 Ollama 官方网站或 GitHub 页面,根据操作系统选择对应安装包:Windows 下载 OllamaSetup.exe,macOS 下载 .dmg 文件,Linux 使用官方脚本或包管理器。
  2. Windows 用户直接双击 OllamaSetup.exe,点击 Install 即可,安装程序会自动安装到当前用户目录,无需手动选择路径,也不需要额外配置。
  3. 安装完成后,打开终端(Windows 使用 CMD 或 PowerShell),输入 ollama 命令,确认出现 serve、create、show、run 等子命令列表。
  4. 拉取并运行模型:执行 ollama run llama3 或 ollama run qwen 等命令,首次运行会自动下载对应模型文件。
  5. 验证 REST API:在另一个终端执行 curl http://localhost:11434/api/generate -d '{"model": "llama3", "prompt": "Hello"}',观察返回结果。

环境变量与配置

在 Windows 中,可通过三种方式打开环境变量设置:开始菜单搜索“环境变量”、此电脑右键属性、控制面板系统和安全。常用变量包括 OLLAMA_MODELS(指定模型存储目录)和 OLLAMA_HOST(修改 API 监听地址)。修改后需重启 Ollama 服务或终端窗口生效。

与同类方案的区别

相比 LM Studio 等图形化工具,Ollama 更侧重命令行与 API 集成,适合开发者嵌入到脚本或应用中;LM Studio 提供完整 GUI 和模型管理界面,更适合非技术用户。两者均支持本地运行,但 Ollama 的模型拉取和启动更轻量,且内置 OpenAI 兼容接口,迁移成本更低。

注意事项

  • Ollama 不需要管理员权限,默认安装在用户目录,但需要至少 4GB 空间存放二进制文件,模型文件另需额外磁盘空间。
  • Windows 系统要求为 Windows 10 22H2 或更新版本,macOS 要求 Sonoma v14 或更新,旧系统可能无法正常安装。
  • 纯 CPU 环境可以运行模型,但生成速度较慢,有独立显卡(NVIDIA GPU 或 Apple Metal)时速度会明显提升。
  • 首次拉取大模型(如 Llama 3 7B)可能需要数 GB 下载流量,请确保网络稳定并预留足够磁盘空间。
  • 若修改了环境变量(如 OLLAMA_MODELS),必须重启 Ollama 进程或终端窗口才能生效,否则可能报错或找不到模型。
  • 升级 Ollama 时,macOS 和 Windows 会自动下载更新,点击任务栏或菜单栏图标选择“重启以更新”即可;也可手动下载最新安装包覆盖。
  • 若遇到 API 请求报错,检查默认端口 11434 是否被占用,或确认 OLLAMA_HOST 设置是否正确,必要时重启服务。

常见问题

Q1:Windows 安装后输入 ollama 提示“不是内部或外部命令”?

检查安装是否成功,确认 OllamaSetup.exe 已运行完毕。安装程序默认将可执行文件添加到用户 PATH,若仍不识别,可手动将安装目录(通常为 %USERPROFILE%\AppData\Local\Programs\Ollama)加入系统 PATH 环境变量。

Q2:如何修改模型默认存储位置?

设置环境变量 OLLAMA_MODELS 指向目标目录(如 D:\ollama_models),然后重启 Ollama 服务。可通过系统属性中的环境变量编辑界面添加,或使用 setx 命令(需以管理员身份运行)。

Q3:拉取模型时下载速度很慢或中断怎么办?

Ollama 使用分块下载,中断后重新执行 ollama run 命令会从断点续传。若持续失败,可尝试更换网络环境(如切换 Wi-Fi 或使用代理),或手动从模型库下载文件后放置到 OLLAMA_MODELS 目录。

Q4:运行模型时提示“CUDA error: out of memory”如何处理?

说明显存不足。可尝试使用更小的模型(如 7B 替代 13B),或设置 OLLAMA_NUM_GPU 环境变量限制 GPU 层数,部分层回退到 CPU 计算。若显存极小,可完全使用 CPU 模式(设置 OLLAMA_NUM_GPU=0)。

Q5:Ollama 与 LM Studio 相比有什么优缺点?

Ollama 更轻量、命令行友好,适合脚本化和 API 集成,且内置 OpenAI 兼容接口;LM Studio 提供图形界面和模型管理,适合非技术用户。但 Ollama 的模型管理需通过命令行,对新手有一定门槛。

Q6:如何验证 REST API 是否正常工作?

在终端执行 curl http://localhost:11434/api/generate -d '{"model": "llama3", "prompt": "Hello"}',若返回包含 response 字段的 JSON 则正常。若连接失败,检查 Ollama 服务是否在运行(任务栏图标或进程列表)。

Q7:升级 Ollama 后模型会丢失吗?

不会。模型文件存储在 OLLAMA_MODELS 目录(默认用户目录下),升级程序只替换二进制文件,不删除模型数据。但建议升级前备份 OLLAMA_MODELS 目录以防意外。

Q8:在 Linux 上安装时提示缺少依赖怎么办?

Ollama 官方提供安装脚本,通常会自动处理依赖。若手动安装,需确保系统有 curl、tar 等基础工具。部分发行版可能需要安装 libgomp1 或类似库,可参考官方文档或社区教程。

更新记录

最近更新:2026-10-16

软件参数速览

下载文件名Ollama-windows.zip(latest · Windows · 1491.9 MB)
其他安装包ollama-windows-amd64-mlx.zip(0.40.3 · Windows · 1.31 GB)
本站更新时间2026-10-16

参数对比

项目ollama安装注意事项 电脑版下载ollama安装注意事项 电脑版下载
版本latest0.40.3
大小1491.9 MB1.31 GB
平台winwin
网盘夸克百度

历史版本

本站收录该软件的多个真实版本,可按下表选用:

版本平台大小网盘入口官网
latest win 1491.9 MB 夸克 ollama安装注意事项 电脑版下载 latest(查看/下载) ——
0.40.3 win 1.31 GB 百度 ollama安装注意事项 电脑版下载 0.40.3(查看/下载) ——

下载

⚡
国内下载加速

本站提供夸克 / 百度 / 蓝奏网盘转存下载,国内访问快、不限速,转存后即可高速下载。网盘链接均经人工审核,失效可反馈补链。

国内下载(推荐)

下载由本站收录的国内网盘提供(夸克 / 百度 / 蓝奏),国内访问快、不限速;网盘链接均经审核,如失效欢迎反馈。

常见问题

Windows 安装后输入 ollama 提示“不是内部或外部命令”?

检查安装是否成功,确认 OllamaSetup.exe 已运行完毕。安装程序默认将可执行文件添加到用户 PATH,若仍不识别,可手动将安装目录(通常为 %USERPROFILE%\AppData\Local\Programs\Ollama)加入系统 PATH 环境变量。

如何修改模型默认存储位置?

设置环境变量 OLLAMA_MODELS 指向目标目录(如 D:\ollama_models),然后重启 Ollama 服务。可通过系统属性中的环境变量编辑界面添加,或使用 setx 命令(需以管理员身份运行)。

拉取模型时下载速度很慢或中断怎么办?

Ollama 使用分块下载,中断后重新执行 ollama run 命令会从断点续传。若持续失败,可尝试更换网络环境(如切换 Wi-Fi 或使用代理),或手动从模型库下载文件后放置到 OLLAMA_MODELS 目录。

运行模型时提示“CUDA error: out of memory”如何处理?

说明显存不足。可尝试使用更小的模型(如 7B 替代 13B),或设置 OLLAMA_NUM_GPU 环境变量限制 GPU 层数,部分层回退到 CPU 计算。若显存极小,可完全使用 CPU 模式(设置 OLLAMA_NUM_GPU=0)。

Ollama 与 LM Studio 相比有什么优缺点?

Ollama 更轻量、命令行友好,适合脚本化和 API 集成,且内置 OpenAI 兼容接口;LM Studio 提供图形界面和模型管理,适合非技术用户。但 Ollama 的模型管理需通过命令行,对新手有一定门槛。

如何验证 REST API 是否正常工作?

在终端执行 curl http://localhost:11434/api/generate -d '{"model": "llama3", "prompt": "Hello"}',若返回包含 response 字段的 JSON 则正常。若连接失败,检查 Ollama 服务是否在运行(任务栏图标或进程列表)。

升级 Ollama 后模型会丢失吗?

不会。模型文件存储在 OLLAMA_MODELS 目录(默认用户目录下),升级程序只替换二进制文件,不删除模型数据。但建议升级前备份 OLLAMA_MODELS 目录以防意外。

在 Linux 上安装时提示缺少依赖怎么办?

Ollama 官方提供安装脚本,通常会自动处理依赖。若手动安装,需确保系统有 curl、tar 等基础工具。部分发行版可能需要安装 libgomp1 或类似库,可参考官方文档或社区教程。

相关推荐