ollama使用教程

为什么要用Ollama？

在云端调用大模型虽然方便，但存在数据隐私泄露风险，且长期使用成本高昂。而Ollama让普通用户能在本地一键部署开源大模型，无需昂贵的GPU也能运行量化版本。本ollama使用教程将手把手教你完成安装、配置与模型调用，让你彻底掌控自己的AI助手，实现完全离线、免费、安全的使用体验。

Ollama核心功能速览

1. 极简的命令行操作

Ollama用一句话就能搞定模型下载和运行：ollama run llama2。它自动处理依赖和优化，你无需手动下载权重、配置环境或安装Python库。同时支持ollama pull预下载，ollama list查看本地模型，ollama rm删除模型，所有管理操作都清晰直观。

2. OpenAI兼容API

Ollama内置了与OpenAI兼容的HTTP API，只需一条命令ollama serve启动服务，即可通过http://localhost:11434调用。这意味着你现有的ChatGPT脚本只需改一下API地址就能无缝切换，无需重写代码，迁移成本极低。

3. 自定义模型Modelfile

基于Modelfile文件，你可以自定义模型的系统提示词、温度参数，甚至调整模型结构。类似Dockerfile的构建方式让模型定制变得简单，为特定场景（如客服、写作助手）打造专属模型成为可能。

Ollama安装与使用步骤

第一步：安装Ollama

访问Ollama官网，根据你的系统下载对应安装包。macOS和Windows平台直接双击安装，Linux则执行一键脚本安装：

curl -fsSL https://ollama.com/install.sh | sh

安装完成后，终端输入ollama --version验证是否成功。如果提示找不到命令，可能是环境变量未配置，可重启终端或手动添加路径。

第二步：下载并运行第一个模型

以Llama 2 7B为例，直接执行：

ollama run llama2

首次运行会自动下载模型（约3.8GB），之后进入交互式对话界面。输入问题即可得到回复，输入/exit退出。若内存较小，可尝试更轻量的tinyllama（只有约640MB）。

第三步：通过API调用模型

保持Ollama服务运行（默认后台启动），使用curl请求：

curl http://localhost:11434/v1/chat/completions -d '{
  "model": "llama2",
  "messages": [{"role": "user", "content": "你好"}]
}'

你还可以用Python、Node.js等任何语言调用，官方提供了各语言的SDK，只需设置base_url=http://localhost:11434/v1即可。

使用注意事项

• 硬件要求：官方建议至少8GB内存，但运行7B模型建议16GB以上。模型会占用内存，请关闭其他大程序以免卡顿。
• 磁盘空间：模型文件较大，下载前确认磁盘剩余空间。可用ollama list查看已下载模型的准确大小。
• 端口冲突：Ollama默认使用11434端口，若被占用，可设置OLLAMA_PORT环境变量修改。
• 模型路径：默认存储在~/.ollama，如需迁移到其他盘，可设置OLLAMA_MODELS环境变量。
• 安全保护：API服务默认只监听本机，如需远程访问需设置环境变量OLLAMA_HOST=0.0.0.0，并做好防火墙限制，避免未授权访问。

至此，你已经掌握了本ollama使用教程的核心内容，可以畅快地本地玩转大模型了。后续还可探索更多模型，如Mistral、Code Llama，或通过Modelfile定制专属模型，让AI真正为你所用。