ubuntu卸载ollama步骤

简介

帮助用户在本地大模型部署时权衡卸载ollama还是用vllm，并提供安装与配置参考。（适用 Windows/x64。）

一、核心痛点与软件介绍

很多刚接触本地大模型的开发者，装完ollama跑了一段时间后，发现显存占用高、推理速度不理想，或者想切换到更高效的vllm框架，这时就会卡在“怎么干净卸载ollama”这一步。其实，ubuntu卸载ollama步骤并不复杂，关键是要把服务、模型缓存和自启动项都清干净。本文既教你完整的卸载流程，也顺带讲清楚vllm适合什么场景，帮你判断到底该卸还是该换。

二、环境要求与官方下载

系统方面以Ubuntu 20.04或22.04这类常见版本为参考，具体以官网为准。ollama和vllm都依赖Python环境（vllm要求Python 3.8以上），建议先确认系统里已装好Python和pip。下载安装包时，直接前往软件官网获取对应平台的压缩包或安装脚本，不要从第三方站点下载，避免捆绑或版本不匹配。

三、保姆级安装步骤（卸载ollama）

步骤一：停止服务

打开终端，先执行sudo systemctl stop ollama，如果服务名不对，可以用systemctl list-units | grep ollama查一下实际名称。停止后顺手执行sudo systemctl disable ollama，防止开机自启。

步骤二：卸载二进制文件

默认安装位置在/usr/local/bin下，执行sudo rm -f /usr/local/bin/ollama。如果你是用安装脚本装的，可能还生成了systemd服务文件，需要一并删除：sudo rm -f /etc/systemd/system/ollama.service，然后执行sudo systemctl daemon-reload刷新。

步骤三：清理模型与缓存

模型默认存放在~/.ollama目录，直接执行rm -rf ~/.ollama即可。如果之前改过环境变量OLLAMA_MODELS，那就去对应路径删除。另外检查一下/tmp下有没有ollama临时文件，顺手清掉。

步骤四：验证卸载

执行which ollama，如果返回空，再执行ollama --version，报“command not found”就说明卸载干净了。如果还想安装vllm，可以接着用pip安装：pip install vllm，具体版本以官方发布为准。

四、首次启动快速配置（vllm）

安装完vllm后，第一次运行建议先设好环境变量，比如export CUDA_VISIBLE_DEVICES=0指定GPU。启动推理时，命令行里要指定模型路径和参数，例如python -m vllm.entrypoints.openai.api_server --model /path/to/model --port 8000。如果显存不够，可以加上--max-model-len限制上下文长度。

五、常见安装报错解决方案（FAQ）

症状1：卸载时提示“Permission denied”
解决动作：用sudo执行删除命令，或者先chmod +w目标文件再删。

症状2：pip安装vllm报“CUDA not found”
解决动作：先执行nvidia-smi确认驱动，再安装匹配的CUDA工具包，或者用pip install vllm[cuda]。

症状3：运行vllm时OOM（显存溢出）
解决动作：降低--gpu-memory-utilization参数（比如0.6），或者换更小的模型。

六、优缺点

优点

• 卸载流程清晰，残留少，适合强迫症用户。
• vllm推理吞吐量高，适合生产环境。
• 官方文档详细，社区活跃。

缺点

• vllm对GPU显存要求高，低配机器跑不动。
• 配置参数多，新手容易懵。
• 卸载后若想重装，需重新下载模型。

同类软件推荐

以下是与本文软件定位相近、可相互替代的同类工具，便于按需选型：

• vllm（本站已收录，点击查看下载与教程）
• llama.cpp（本站已收录，点击查看下载与教程）
• text-generation-webui（本站已收录，点击查看下载与教程）

核心功能

• 本页保留官方站点入口作为下载来源，并在可用时提供网盘转存通道，链接与提取码随页面展示。
• 围绕「ubuntu卸载ollama步骤」这一需求给出可执行的获取与部署步骤，减少试错成本。
• 提供版本与架构比对，避免装错版本或选错系统架构导致无法运行。

使用场景

• 需要在本机部署或重装 ubuntu卸载ollama步骤（当前版本），并希望先核对版本与文件信息再获取的场景。
• 使用 ubuntu卸载ollama步骤 时遇到官方站点访问不稳定或速度较慢，需要国内网盘通道作为替代的情况。
• 需要在多台设备使用同一 ubuntu卸载ollama步骤 版本（当前版本），便于统一环境与后续排查时。

注意事项

• 部署 ubuntu卸载ollama步骤 时路径建议避免中文与空格，可减少部分写入失败的概率。
• 若安全软件出现拦截提示，请先确认来源为本页收录渠道后再决定是否放行。

安装与校验

• 通过本页「夸克/百度 网盘」通道转存到自己的网盘后再取回文件，可避免直接下载中断造成的文件不完整。
• 解压后先确认 ubuntu卸载ollama步骤 主程序能否正常启动，再决定是否替换原有版本。
• 如遇安全软件拦截，请先确认来源为本页收录渠道，再决定是否放行。

官方来源获取步骤

• 第 1 步：打开本页给出的官方站点入口，核对页面域名与下方收录信息是否一致。
• 第 2 步：在官方页面的下载区选择与本机 Windows/x64 匹配的安装包，注意区分 32 位与 64 位。
• 第 3 步：下载完成后核对文件名与文件大小，再执行安装或解压；建议解压到 C:\\Tools 这类不含中文与空格的路径。