OpenCode运行本地Llama：从Ollama连接到编程任务验收

让 OpenCode 使用本地 Llama，需要同时解决两个问题：本机是否能稳定运行目标模型，以及模型是否能正确执行编程工具调用。只看到一句流畅回答，还不足以判断它能处理真实代码任务。

理解三个组成部分

Llama 是模型家族，Ollama 提供本地模型运行和服务接口，OpenCode 则负责项目交互与工具工作流。三者之间的连接可以跑通，但具体模型标签的工具能力、上下文长度和硬件需求仍需分别确认。

本文使用“已下载的、支持工具调用的 Llama 模型”作为前提，不承诺每一个 Llama 版本都适合编程 Agent，也不把某个内存容量写成所有量化版本的统一要求。

第一步：让模型独立运行

从 Ollama 官方渠道安装适合系统的程序，选择与你硬件匹配的本地模型标签。先在 Ollama 中确认模型能够加载并稳定回答，再接入 OpenCode，避免把模型加载失败误判成客户端配置问题。

ollama --version
ollama list
ollama run YOUR_LOCAL_LLAMA_TAG

YOUR_LOCAL_LLAMA_TAG 是占位符，应替换成 ollama list 中的准确名称。尚未下载的模型需要先按官方模型页取得；下载耗时和磁盘占用不应算成正常推理延迟。

观察实际资源占用

除了模型权重，较长上下文也会增加内存需求。出现明显交换内存、加载失败或输出极慢时，先缩短上下文或选择更适合硬件的模型，再扩大任务。不要同时调整多个参数。

第二步：选择自动连接或手动配置

Ollama 的 OpenCode 集成提供以下入口。若本机版本没有该子命令，按当前官方说明升级或采用后面的手动配置。

ollama launch opencode

在模型选择中确认使用本地模型，而非带有云端含义的选项。需要明确管理项目配置时，也可以在 opencode.json 中定义提供商：

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "local-llama": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Local Llama",
      "options": {"baseURL": "http://127.0.0.1:11434/v1"},
      "models": {
        "YOUR_LOCAL_LLAMA_TAG": {"name": "My local Llama"}
      }
    }
  }
}

把模型键替换为本机准确标签，并将这段结构合并进现有配置，不要覆盖其他提供商。启动 OpenCode 后通过 /models 选择对应模型。若 OpenCode 运行在容器或另一台机器，127.0.0.1 指向那个环境本身，不能直接代表宿主机。

第三步：按编程任务验证

1. 读取一个小文本文件，确认模型使用了读取工具。
2. 让它只修改指定的一行，检查文件变化是否精确。
3. 让它再次读取结果，确认工具反馈能进入后续对话。
4. 在简单练习项目中运行一项现有测试，检查是否正确理解通过与失败。

文字说“已修改”，文件却没变化

查看是否实际产生工具调用，以及模型是否输出了符合接口要求的参数。有些模型擅长聊天，却不擅长稳定使用工具。修改提示词可以辅助，但不能代替模型和服务端的工具支持。

开始正常，任务一长就失控

优先检查实际上下文容量、输入长度和内存占用。OpenCode 文档提示工具调用问题可能与 Ollama 上下文设置有关，但增大窗口也会消耗更多资源，必须结合硬件测试。

“本地模型”不等于整个任务离线

模型推理可以留在本机，但联网工具、远程 MCP、依赖安装或其他提供商仍可能发起网络请求。若需要离线工作，应分别检查这些通道，不能只凭模型名称判断。

记录一组可重复的测试

保存模型完整标签、量化版本、运行时版本，以及读取、修改、回读和测试的结果。之后升级或更换模型，用同一组小任务比较成功率与耗时，才能判断改动是否真正改善了你的工作。