ollama完全指南 电脑版下载

简介

Ollama 是一个开源的大语言模型部署服务工具，支持在 Windows、macOS、Linux 三种主流操作系统上运行，仅需 CPU 即可部署大模型，也可利用 GPU 加速。它解决了本地运行大模型时安装复杂、依赖繁多、命令难记的问题，将模型下载、启动、API 暴露等操作封装为一条命令。适合大模型爱好者、开发者、研究者以及关注数据隐私的用户，无需联网、无需付费，数据完全保留在本地。其核心优势在于极低的上手门槛——从安装到运行首个模型通常只需几分钟，同时提供 OpenAI 兼容的本地 API，便于集成到现有应用中。

核心功能

• 一键运行模型：使用 ollama run <模型名> 即可自动下载并启动模型，例如 ollama run deepseek-r1。
• 跨平台支持：提供 Windows、macOS、Linux 安装包，Windows 安装无需管理员权限，默认安装在用户目录。
• 本地 API 服务：启动后默认监听 11434 端口，提供 RESTful API，兼容 OpenAI 接口格式，便于集成到其他应用。
• 模型管理：通过 ollama list 查看已下载模型，ollama pull 下载新模型，ollama rm 删除模型。
• 自定义模型：支持通过 Modelfile 创建自定义模型，调整温度、上下文长度等参数，或导入 GGUF 格式模型。
• Web UI 扩展：可配合 Open WebUI、Chatbot-Ollama 等第三方界面实现图形化交互。

使用场景

• 本地开发测试：开发者可在本地快速启动模型，验证 prompt 效果或调试应用逻辑，无需等待云端响应。
• 隐私敏感场景：处理医疗、法律、财务等敏感数据时，数据不出本机，避免上传云端。
• 离线环境：在无网络或内网环境中，预先下载模型后即可完全离线运行。
• 教学与学习：大模型学习者可通过 Ollama 动手实践模型部署、推理、参数调整，理解底层原理。
• 轻量级推理：在 CPU 或低配 GPU 上运行小尺寸模型（如 7B 参数），满足日常问答、文本生成需求。

安装与获取步骤

1. 访问 Ollama 官网 https://ollama.com/download ，选择对应操作系统的安装包（Windows 提供 .exe，macOS 提供 .dmg，Linux 提供脚本）。
2. Windows 用户下载后双击安装，安装过程无需管理员权限，默认安装在用户目录，需至少 4GB 磁盘空间存放二进制文件。
3. Linux 用户可执行官方安装脚本 curl -fsSL https://ollama.com/install.sh | sh，或从 GitHub Releases 下载手动安装。
4. 安装完成后，在终端运行 ollama --version 验证是否成功，若显示版本号则安装成功。
5. 运行 ollama run llama3.2 或 ollama run deepseek-r1 等命令，首次运行会自动下载模型，之后即可交互对话。

与同类方案的区别

Ollama 与 LM Studio、vLLM、llama.cpp 等工具定位不同：LM Studio 以图形界面为核心，适合探索型用户；vLLM 面向高性能生产环境，适合大规模并发；llama.cpp 提供底层控制，适合深度定制。Ollama 则以命令行和本地 API 为核心，强调自动化和易用性，适合快速上手和轻量级部署。对于资源有限的用户，Ollama 的内存管理更友好，默认按需加载模型。

注意事项

• 模型文件较大（通常数 GB），下载前确认磁盘剩余空间充足，并预留额外空间存放模型。
• 首次运行模型时需联网下载，后续可离线使用；若需完全离线，请提前下载所需模型。
• 默认端口 11434 可能被占用，可通过环境变量 OLLAMA_HOST 修改监听地址。
• CPU 运行速度较慢，建议使用支持 AVX 的 CPU；若需 GPU 加速，请确保显卡驱动和 CUDA 环境正确配置。
• 不同模型对内存要求不同，7B 模型通常需 8GB 内存，13B 模型建议 16GB，请根据本机配置选择合适模型。
• Windows 下若出现防火墙提示，请允许 Ollama 通过，否则可能无法访问 API 服务。
• 若需卸载，Windows 可在“设置-应用”中卸载，Linux 可删除安装目录及 ~/.ollama 缓存。