ollama下载安装使用教程

简介

Ollama 是一款开源的本地大模型运行工具，把模型下载、加载与推理的复杂流程封装成一条命令，让用户在自己的电脑上离线运行大语言模型，数据不出本机。它面向不想依赖云端订阅、又希望在本地体验 AI 的个人开发者、学生和办公用户，覆盖 Windows、macOS、Linux 三个平台，可运行 Qwen、DeepSeek、Llama、ChatGLM、Gemma 等主流开源模型，无需复杂代码配置即可开始对话，是当前最流行的本地部署方案之一。

核心功能

• 一条命令完成模型下载、加载与推理的全流程，把原本分散的步骤收敛为单条指令，省去手动搭建运行环境。
• 跨平台覆盖 Windows、macOS、Linux，三个平台共用同一套命令与操作习惯，换机器时迁移成本低。
• 全程离线运行，模型文件与对话内容都留在本机，不上传到第三方服务器，隐私可控。
• 免费且开源，由开源社区维护，不需要订阅云端服务就能长期在本机使用。
• 可直接运行 Qwen、DeepSeek、Llama、ChatGLM、Gemma 等主流开源模型，模型获取由工具自身完成。
• 提供 ollama serve 启动服务、ollama run 拉起模型对话等命令，便于写进脚本或被其他程序调用。
• 支持导入自有模型文件并对外提供接口，可与第三方应用、Agent 类工具做生态集成。

使用场景

• 内网或断网环境：模型文件下载到本机后即可继续对话，不依赖外部网络连接。
• 隐私敏感的文档与代码处理：数据不出本机，避免把内部资料上传到云端服务。
• 本地应用开发调试：以本地服务地址对接模型，反复验证提示词与接口返回效果。
• 多模型横向对比：在同一台机器上切换 Qwen、Llama、Gemma 等模型，观察回答差异。
• 桌面日常办公：配合任务栏图标与开机启动项管理，随系统开关服务，随时唤起本地助手。

安装与获取步骤

1. 打开官网 https://ollama.com/ ，点击页面上的下载按钮，等待对应平台的安装包下载完成。
2. Windows 用户双击下载好的 .exe 程序，按提示直接完成安装；若机器上已装过且正在运行，可跳过该步。
3. 按快捷键 Win+R 打开运行窗口并输入命令验证，初次执行结果为空属于正常现象，不代表失败。
4. 服务没有起来时：按 Win+X 打开任务管理器，切到「启动」页禁用 Ollama，再到进程中结束 Ollama 的任务。
5. 关闭自启后执行 ollama serve 手动启动服务，再次用 Win+R 验证，确认服务已经正常提供。
6. 执行 ollama run 模型名 拉起模型，首次运行会自动下载对应模型文件，完成后即可开始对话。
7. Linux 用户可重新运行官方安装脚本，或参考国内加速与手动构建方案，并按需配置 systemd 服务与 GPU 加速。

常用命令与服务管理

• ollama serve：启动本地服务，是其他命令能够连通的前提。
• ollama run 模型名：拉起指定模型并进入对话，首次执行会下载该模型。
• Win+R：Windows 下快速打开运行窗口，用于输入命令做连通性验证。
• Win+X → 任务管理器 → 启动：查看并禁用 Ollama 的开机自启项。
• 任务栏或菜单栏的 Ollama 图标：查看运行状态，并触发「重启以更新」。

升级与更新

• macOS 与 Windows 会自动下载更新，点击任务栏或菜单栏图标，再点「重启以更新」应用新版本。
• 也可以手动下载最新版本覆盖更新，适合自动更新不便或需要固定版本的机器。
• Linux 用户只需重新运行安装脚本即可完成升级。
• 具体版本号、参数与支持范围以官方页面为准。

注意事项

• 运行 ollama run 出现 Error: Could not connect to ollama app, is it running. 时，说明 Ollama 没有正确启动，先确认进程状态再重试。
• 在启动项里禁用 Ollama 后，需要手动执行 ollama serve 才能重新提供服务，否则对话命令会持续报连接失败。
• 首次用 Win+R 验证输出为空不代表异常，要再用 ollama serve 与 ollama run 两步判定服务与模型是否就绪。
• 模型文件体积通常较大，下载前先确认磁盘空间与网络状况，具体占用以官方页面为准。
• 各平台的管理方式不同：Windows 用任务管理器和任务栏图标，Linux 用服务脚本，操作前先确认当前系统类型。
• 涉及 GPU 加速、systemd 服务等进阶配置时，先确认硬件与系统环境，配置项以官方文档为准。