ollama入门教程

为什么你需要 ollama？

在接触 ollama 之前，相信很多人和我一样，想体验 Llama、Qwen 这些开源大模型时，总是被复杂的 Python 环境、CUDA 配置、依赖管理搞得焦头烂额。明明只想在本地跑个对话模型，光搭环境就要花掉一整天。ollama 的出现，把大模型运行变成了类似 Docker 的体验——一条命令下载，一条命令启动。它解决了三个核心痛点：繁琐的依赖安装、GPU/CPU 的运行环境差异，以及模型权重的下载与管理。

如果你也想用自己电脑跑大模型，那么这份 ollama入门教程就是为你准备的。它会带你从零开始，用最少的时间把本地大模型跑起来。

核心功能：极简安装与模型管理

ollama 最突出的特点就是极简。它内置了模型仓库和运行环境，你不需要手动安装 Python 库，也不需要关心底层推理引擎。官方支持的模型包括 Llama、Mistral、Qwen、Phi 等，覆盖了主流的开源模型。具体来说，它的核心能力可以分为两块：

• 一键安装模型：使用 ollama pull qwen2.5 就能拉取模型，所有依赖自动处理。
• 跨平台支持：Windows、macOS、Linux 都有安装包，甚至能以 Docker 方式运行。

下载与安装：三分钟跑通

我在 Windows 上实践时，直接去官网下载 ollamaSetup.exe，双击安装即可，不需要任何额外配置。macOS 用户下载 zip 包，解压后拖到 Applications 就能用。Linux 用户则只需执行一行脚本：

curl -fsSL https://ollama.com/install.sh | sh

安装完成后，打开终端（Windows 上可以是 PowerShell），输入 ollama --version 验证是否成功。这就是 ollama入门教程的关键一步，确保命令能正常执行。

使用方法：跑起你的第一个模型

安装好之后，运行模型非常简单。以 Qwen2.5 为例，在终端输入以下命令：

ollama run qwen2.5

第一次运行会自动下载模型（约 4GB），之后就能直接在终端里对话了。模型是交互式的，输入你的问题，回车即可得到回复。除了交互模式，它还可以配合 API 使用，方便接入自己开发的程序。ollama 默认监听 11434 端口，通过 REST API 即可调用。下面是一个简单的 curl 示例：

curl http://localhost:11434/api/generate -d '{"model": "qwen2.5", "prompt": "你好！"}'

如果你想换一个模型，比如 Llama 3，只需将命令中的模型名替换为 llama3。掌握这个规律，你就能自由探索各种模型。这份 ollama入门教程到这里，你已经能完成基本的本地推理了。

注意事项：避开这些坑

• 内存占用：7B 模型至少需要 8GB 内存，如果模型加载很慢，可以关闭其他应用。
• 模型存储位置：默认在用户目录下的 .ollama/models，如果想改路径，需要设置环境变量 OLLAMA_MODELS。
• 更新与卸载：使用 ollama update 可以升级，完全卸载时直接删除安装目录和 .ollama 文件夹即可。

在实际使用中，如果遇到模型响应速度慢或无法加载，先检查磁盘空间和内存占用。另外，不要一次性运行多个模型，这会显著拖慢速度。让 ollama 专心跑一个模型，体验会流畅很多。