ollama安装步骤 电脑版下载

简介

Ollama 是一个开源的大语言模型部署服务工具，允许用户在本地电脑上直接下载、运行和管理各类大语言模型（LLM）。它解决了本地运行大模型时环境配置复杂、依赖繁多的问题，通过简单的命令行即可完成模型的拉取和启动。Ollama 支持 Windows、macOS、Linux 三种主流操作系统，并且仅需 CPU 即可运行，无需高端显卡。它特别适合希望保护隐私、离线使用、或对云端服务有顾虑的个人开发者、研究人员和爱好者。核心优势在于安装简单、模型管理便捷、提供 OpenAI 兼容的 API 接口，便于集成到现有应用中。

核心功能

• 一键安装：提供官方安装包，双击即可完成安装，无需手动配置 Python 或 CUDA 环境。
• 命令行管理模型：通过 ollama pull、ollama run、ollama list 等命令下载、运行和查看本地模型。
• 支持多平台：Windows、macOS、Linux 均有对应安装包，且安装后常驻后台，API 自动可用。
• 本地 API 服务：安装后默认在 11434 端口提供 REST API，兼容 OpenAI 接口格式，方便集成到其他应用。
• 环境变量可配置：支持通过设置环境变量自定义模型存储路径、API 端口、并发数等参数。
• 模型库丰富：官方模型库提供多种开源模型（如 Llama、Mistral 等），可通过一条命令拉取。
• 支持 GPU 加速（可选）：若电脑有 NVIDIA GPU，可自动利用 CUDA 加速推理，提升性能。

使用场景

• 本地隐私聊天：在无网络环境下使用本地模型进行对话，数据不离开电脑，适合敏感场景。
• 开发测试：开发者可快速在本地启动模型，测试提示词、微调参数，或集成到应用中。
• 离线推理：在无外网或内网环境中，通过 Ollama 提供本地推理服务，供内部系统调用。
• 教学与学习：学生或爱好者可低成本体验大模型，学习模型部署与调用流程。
• 边缘设备：在配置较低的电脑上（仅 CPU）运行小尺寸模型，实现轻量级 AI 功能。

安装与获取步骤

1. 访问 Ollama 官网（ollama.com），点击页面上的“Download”按钮，选择对应操作系统（Windows、macOS 或 Linux）的安装包。
2. Windows 用户：下载 .exe 安装包后双击运行，按提示完成安装。安装不需要管理员权限，默认安装在用户目录下。
3. macOS 用户：下载 .dmg 或 .pkg 文件，打开后拖拽或运行安装器，安装完成后 Ollama 常驻菜单栏。
4. Linux 用户：可通过执行官方提供的安装脚本（curl -fsSL https://ollama.com/install.sh | sh）完成安装，或手动下载二进制包。
5. 安装完成后，打开终端（Windows 为 CMD 或 PowerShell），输入 ollama --version 验证安装是否成功。
6. 下载模型：执行 ollama pull llama3.2（模型名可替换）拉取模型，然后运行 ollama run llama3.2 启动交互式对话。
7. 若需修改模型存储路径（默认在 C 盘用户目录），可设置环境变量 OLLAMA_MODELS 指向新目录，并重启 Ollama 服务。

与同类方案的区别

与 vLLM 相比，Ollama 更注重易用性和轻量级，适合个人电脑和中小型部署，而 vLLM 面向高吞吐生产环境。与 LM Studio 等图形化工具相比，Ollama 提供命令行接口，更适合脚本化和自动化集成。Ollama 还支持 OpenAI 兼容 API，可无缝替换部分依赖 OpenAI 的应用。

注意事项

• 模型文件较大（数 GB 至数十 GB），下载前请确认磁盘空间充足，建议预留至少 10GB 空间。
• 默认模型存储路径在用户目录，Windows 下可能占用 C 盘空间，可通过环境变量 OLLAMA_MODELS 迁移到其他盘。
• 若 ollama 命令无法识别，需手动将安装目录（如 C:\Users\用户名\AppData\Local\Programs\Ollama）添加到系统 PATH 环境变量。
• 首次运行模型时需下载，速度取决于网络，若下载缓慢可尝试更换网络或使用镜像加速。
• Ollama 服务默认监听 11434 端口，若端口被占用或需远程访问，可修改环境变量 OLLAMA_HOST 和 OLLAMA_PORT。
• 在 Windows 上，安装后 Ollama 常驻后台，可通过托盘图标退出；Linux 下若使用 systemd 服务，开机自启，手动 ollama serve 方式需保持终端开启。