ollama进阶教程

很多朋友使用Ollama拉取几个模型后，就停留在ollama run的原始玩法。真正要将大模型落地到业务或工作流里，还需要掌握更多细节。这篇ollama进阶教程不会重复基础命令，而是从定制、集成和性能三个角度，帮你把Ollama用出生产力。

为什么你需要进阶？

直接跑预置模型虽然方便，但无法控制输出风格、上下文长度，更无法嵌入到自己的应用里。多人同时调用时还会出现排队、卡顿。进阶学习的意义，就是解决这些痛点，让模型真正为你的具体场景服务。

核心内容一：用Modelfile打造专属模型

Modelfile是Ollama的“模型配方”，允许你微调模型行为。比如创建一个说话简洁、永远用中文回答的助手：

FROM llama3
SYSTEM You are a helpful assistant. Always answer in Chinese and keep it concise.
PARAMETER temperature 0.2
PARAMETER num_ctx 4096
PARAMETER stop "END"

保存为Modelfile后执行：ollama create myassistant -f Modelfile，再用ollama run myassistant测试。你也可以通过修改SYSTEM指令来定制角色，这在客服、翻译、内容审核等场景极具价值。

核心内容二：通过HTTP API与业务系统集成

Ollama内置HTTP服务，默认端口11434。你可以用任意语言调用它。例如用Python请求生成接口：

import requests
resp = requests.post("http://localhost:11434/api/generate", json={"model":"myassistant", "prompt":"你好", "stream":False})
print(resp.json()["response"])

此外还支持api/chat、api/embed等接口。许多开发者把Ollama作为推理引擎，配合LangChain、Dify