ollama使用指南 电脑版下载

简介

Ollama 是一个开源的本地大语言模型运行框架，它把「拉取模型、启动推理、管理模型」压缩成几条命令行操作，让一台普通电脑也能在本地跑起大模型。它解决的核心问题是把 AI 从云端拽回自己的机器：推理在本机完成，不需要 API 费用，数据也不离开本地，隐私可控。适合希望掌控 AI 处理过程的开发者、技术爱好者，以及需要在 Windows、macOS、Linux 上做本地部署与联调测试的用户。它的核心优势是「命令行 + 本地 HTTP 接口」的组合——既能直接在终端对话，也能让上层应用通过接口调用本地模型，同时对 CPU 环境友好，独显并非硬性门槛。

核心功能

• 一键部署与运行：用一条简单命令即可完成模型下载并直接进入对话，不必自己准备推理脚本、依赖环境与权重文件。
• 本地 HTTP 接口：服务启动后对外提供接口，供上层应用程序调用；Chatbox 等支持 BYOK 的客户端可填入本地地址直接对接。
• 模型管理命令：围绕拉取、列出、删除、运行等动作提供一组命令，用来在本地维护已下载的模型，不必手动整理文件目录。
• 环境变量可配置：可按实际需求配置系统环境变量参数，包括模型存储路径、服务监听地址与端口，从而把模型挪出系统盘并控制访问范围。
• CPU 也可参与推理：配套教程明确指出，让 CPU 也可以玩转大模型推理部署，独显并非硬性门槛，适合先在现有机器上验证可行性。
• 开源且无 API 费用：项目开源免费，只要有电脑就能用，推理在本机完成，不产生云端调用费用，适合零成本起步验证。
• 图形界面作为补充：以命令行和本地 API 为核心，同时也提供 macOS 与 Windows 聊天应用，还可以接入第三方用户界面（UI）来改善交互体验。

使用场景

• 本地隐私问答：把 AI 从云端拽回自己的电脑，数据完全留在本机，适合处理不便外传的文档与个人笔记。
• 作为本地后端对接客户端：通过本地 HTTP 接口，把本地模型能力提供给桌面或网页客户端，实现零 Token 费用的调用链路。
• 教学与动手实践：Datawhale 的《动手学Ollama》教程（https://datawhalechina.github.io/handy-ollama/）覆盖从基础入门到进阶使用的全方位内容，适合系统学习。
• 无显卡环境验证推理：在只有 CPU 的机器上跑通完整推理流程，先判断响应速度与体验是否满足需求，再决定是否升级硬件。
• 模型选型与内存评估：下载不同模型并观察其对内存的实际占用，据此挑选与本机配置匹配的模型，而不是只看参数规模。
• 开发联调与个人助手底座：用本地模型替代云端接口做应用调试，或作为个人 AI 助手的推理底座，长期运行不产生调用费用。

安装与获取步骤

1. 访问 Ollama 官网 ollama.com/，点击右上角 Download 按钮，按你的系统选择对应版本；具体可选版本以官方页面为准。
2. Windows 用户获取 Windows 安装包（OllamaSetup.exe），macOS 用户获取 .dmg 文件，Linux 用户使用标准安装程序；Windows 安装包最终会跳转至 GitHub 下载。
3. 若下载速度过慢，可尝试切换网络或使用加速工具后重试，下载完成后按提示完成一键安装流程。
4. 按实际需求配置系统环境变量参数：设置模型存储路径（避免模型全部堆在 C 盘）、服务监听地址与端口，配置项说明可参考 Datawhale 教程的 Windows 环境变量章节。
5. 在防火墙中放行对应端口，确保本机或局域网内的上层应用能够访问到服务监听地址。
6. 在命令行中执行拉取与运行命令下载模型并进入对话，再用本地 HTTP 接口验证上层应用能否正常连通。
7. Linux 下使用标准安装程序时，需确认 ollama 用户对指定目录有读写权限，必要时执行：sudo chown -R ollama:ollama .

与同类方案的区别

• 对比 LM Studio：Ollama 以自动化为先，核心是命令行与本地 API，同时提供 macOS 与 Windows 聊天应用；LM Studio 以桌面界面为核心，更偏向图形化探索，适合偏好可视操作的人。
• 对比 Dify：Dify 是 AI 应用开发平台，面向应用编排与工作流；Ollama 是本地大模型运行工具，负责把模型跑起来并暴露接口，两者常是上下游关系而非替代关系。
• 对比云端 API：本地运行零 Token 费用、数据私有，但模型规模与响应速度受本机硬件约束；云端能力上限更高，却要持续付费并把数据送出本机。
• 定位判断：如果你要的是「在自己电脑上把模型跑起来并被程序调用」，Ollama 的命令行加接口模型最直接；如果你更看重界面浏览与参数微调，可再比较桌面型工具。

注意事项

• Windows 下模型默认落在 C 盘，长期使用会快速占满系统盘，建议提前通过环境变量指定模型存储路径，改完需重启服务生效。
• 监听地址与端口由环境变量控制，若把服务暴露给局域网，需确认防火墙已放行该端口，否则上层应用会连接超时。
• Linux 使用标准安装程序时，ollama 用户必须对指定目录具备读写权限，可用 sudo chown -R ollama:ollama . 修正目录归属。
• 从 GitHub 跳转下载时可能遇到速度过慢的情况，可切换网络或使用加速工具，避免下载中断导致需要重新获取。
• 模型对内存的占用是选型关键，先确认本机可用内存再决定拉取哪个模型，具体参数以官方页面为准。
• 环境变量参数按实际需求配置即可，改动过多容易造成服务起不来或接口地址不符合预期，建议一次只改一项并逐项验证。
• 本页所有步骤基于公开教程与文档整理，命令写法与可选配置项可能随上游更新而变化，实际以官方页面为准。