ollama怎么安装
本文详解 ollama 怎么安装,涵盖 Windows、macOS、Linux 三种系统下的下载与安装步骤、核心功能、使用要点和常见问题,帮你快速在本地部署并运行大模型,避开安装中的坑。
详细介绍
为什么你需要掌握 ollama 安装
本地部署大模型,听上去很酷,但很多人卡在第一步——不知道 ollama 怎么安装。去查官方文档,术语一堆;看教程视频,版本对不上。结果下载了十几个工具,模型一个没跑起来。其实 ollama 就是为解决这个痛点而生的:它把大模型的下载、依赖管理、运行环境全部封装成一条命令,让你像安装普通软件一样,几分钟内就能在本地跑起 Llama、Qwen、Mistral 等开源模型。你不用再手动配置 Python 环境、CUDA 驱动或深度学习框架,ollama 会自动处理好这些底层细节。
核心功能:安装后你能做什么
一键下载并运行开源大模型
安装成功后,你只需在终端输入 ollama run llama3 这样的命令,ollama 就会自动从模型仓库拉取模型并启动交互式聊天。整个过程类似用包管理器安装软件,模型文件会统一存放在固定目录,方便管理。
简单的模型管理命令
ollama list:查看本机已下载的模型。ollama pull <模型名>:提前下载指定模型。ollama rm <模型名>:删除不再需要的模型。ollama serve:启动本地 API 服务,供其他程序调用。
轻量级本地 API 服务
ollama 会默认在 localhost:11434 启动一个 OpenAI 兼容的 API 接口,这意味着你可以在自己写的代码里,用类似 OpenAI SDK 的方式调用本地模型,实现离线开发或隐私保护。
ollama 怎么安装:分系统实操步骤
Windows 用户
- 访问 ollama.com/download,点击 Windows 下载按钮,得到一个
.exe安装包。 - 双击运行安装包,按提示选择安装路径并完成安装。默认会注册到系统 PATH 中。
- 打开命令提示符(cmd)或 PowerShell,输入
ollama --version,如果出现版本号,说明安装成功。
macOS 用户
- 直接访问官网下载 macOS 版(Apple Silicon 芯片和 Intel 芯片会提供不同安装包)或者使用 Homebrew:
brew install ollama。 - 如果是下载的 .zip 文件,解压后把 Ollama.app 拖入“应用程序”文件夹。
- 首次启动时需要到“系统设置>隐私与安全性”里点击“仍要打开”。
Linux 用户
推荐使用官方脚本一行搞定:curl -fsSL https://ollama.com/install.sh | sh。这条命令会自动检测你的发行版并安装依赖。安装完成后,建议将当前用户加入 ollama 用户组(sudo usermod -aG ollama $USER),再注销重新登录,这样运行时就不需要 sudo 了。
无论你用的是哪种系统,安装完成后,打开终端执行 ollama run qwen2.5 测试一下,如果能看到类似“Send a message”的交互界面,说明你的 ollama 已经可以正式使用了。关于 ollama 怎么安装,网上版本太多,建议认准官网或官方 GitHub 发布的脚本,不要下载第三方整合包,避免带入恶意代码。
使用要点与注意事项
- 模型存储位置:Windows 默认在
C:\Users\你的用户名\.ollama\models;macOS 和 Linux 在~/.ollama/models。如果 C 盘空间不足,可以设置环境变量OLLAMA_MODELS指向其他磁盘。 - 显存不足怎么办:模型参数越大,显存占用越高。8GB 显存建议跑 7B 及以下模型;16GB 显存可尝试 14B 模型。系统内存(RAM)也需要足够,至少 16GB 起步。
- CPU 与 GPU:ollama 会自动优先使用 NVIDIA GPU(需安装 CUDA 驱动),没有 GPU 时退化为 CPU 运行,速度会慢很多。
- 防火墙与代理:首次下载模型需要访问外部网络,如果下载缓慢或失败,请检查网络代理设置。可以设置
HTTPS_PROXY环境变量后重启 ollama。 - 端口冲突:如果
11434端口被占用,可在启动服务前设置OLLAMA_HOST=127.0.0.1:其他端口来更换。
总之,ollama 的目标就是让普通人也能轻松体验大模型。看完这篇教程,你应该已经掌握了 ollama 怎么安装的完整流程。如果你在某个步骤上卡住,不妨检查一下系统版本和依赖是否满足,或者去官方 GitHub Issues 搜索同类问题,那里通常有现成答案。
更新记录
最近更新:2026-08-19
下载
下载按优先级提供:国内网盘(第一优先,便于国内快速获取)→ 官方来源(官方正版背书)→ 源码地址(开源项目);网盘链接均经审核,如失效欢迎反馈。
怎么选(决策参考)
暂无公开信号
暂无公开信号
暂无公开信号
暂无公开信号
暂无公开信号
暂无公开信号
社区数据不足
暂无公开信号
暂无公开信号
暂无公开信号
常见问题
安装 ollama 时提示需要管理员权限怎么办?
Windows 安装包本身需要管理员权限,右键点击安装包选择“以管理员身份运行”;Linux 脚本安装若提示权限不足,在命令前加 sudo 即可,macOS 则是拖拽安装,无需额外权限。
ollama 安装成功后运行命令却提示找不到命令?
多半是 PATH 环境变量未生效。Windows 重开终端或重启电脑;macOS 若用 Homebrew 安装,确认 brew 的 bin 目录在 PATH 中;Linux 执行 source ~/.bashrc 或重启 shell。
下载模型超时或速度很慢,怎么解决?
可以先试设置国内镜像源,例如 OLLAMA_BASE_URL 指向国内镜像,或者用代理软件后在环境变量中设置 HTTPS_PROXY。如果还是慢,建议分时段重试,晚上或清晨下载通常会更快。