weiyi
项目MewCode

Agent Loop 与多模型协议

从一轮流式响应开始,理解模型如何发起工具调用,以及运行时怎样收集结果并继续推理。

终端 Coding Agent 的一次任务可能跨越查找文件、阅读代码、执行命令与修复错误。模型需要看到每一步的真实结果,运行时需要管理协议、并发与退出条件。MewCode 以 Agent Loop 连接这两部分。

项目问题与设计目标

不同模型接口表达工具调用的方式不同。Anthropic Messages、OpenAI Responses 与 OpenAI 兼容接口的事件结构、参数增量和结束信号存在差异。如果任务逻辑直接处理这些协议,每增加一种模型都要修改工具调度。

项目将供应商适配放在 llm.Client.Stream 背后,向上输出统一的文本、思考与工具调用事件。目标是让编排层依据一致事件运行,并保留错误类型供重试和上下文处理使用。

一轮任务如何运行

用户消息进入当前会话,运行时组装系统指令、历史消息和本轮可用工具,再请求模型流。文本增量呈现给用户,工具参数增量按调用标识聚合。完整参数到达后,执行器可以启动该工具的 goroutine,无需等待整轮文本结束。

本轮工具结果收集完成后,以对应的调用 ID 写回消息历史,再开启下一轮模型请求。模型观察真实结果后选择继续调用或给出最终答复。没有工具调用的正常回复构成一条主要退出路径。

统一协议内部承接了什么

适配层将协议事件归一为 TextDelta、ThinkingComplete、ToolCallStart、ToolCallDelta、ToolCallComplete 与 StreamEnd 等。工具参数在增量阶段可能只是半段 JSON,执行只能发生在该调用完整之后。

错误通过独立错误通道表达。上下文过长应触发压缩与重新请求,限流应依据退避或服务端等待信息重试,空响应属于需要显式处理的异常。把这些情况全部改成普通文本,会让上层误以为模型已成功完成。

并发执行与结果顺序

工具可以并发运行,结果按提交索引归集,使会话中的调用与返回保持稳定对应。这个顺序解决的是消息组织问题,并不建立工具之间的依赖关系。

例如同一轮同时读取文件与改写文件,读取可能发生在写入前,也可能发生在写入后。工具类别和权限类别不能代替依赖调度器。需要先读取再修改的任务,应分轮执行,或由更明确的资源锁与依赖声明保证顺序。

退出、重试与运行边界

最大迭代次数为 0 时表示不设次数上限,不能将它解释为自动防止无限循环。连续未知工具触发停止机制,空响应、模型错误与上下文超限也有各自路径。生产使用仍需结合取消信号、执行超时和资源预算。

重试模型请求前要检查已执行工具是否产生副作用。重新请求可能让模型再次发出写操作,仅凭模型“记得做过”无法保证幂等。执行记录、工具级请求标识或明确的结果回填才是更稳妥的控制点。

面试中怎样解释

先用“查找文件 → 阅读 → 修改 → 验证”描述一次真实任务,再解释统一事件协议、完整参数触发执行和结果回填。被问到并发时,要主动说明结果有序与副作用有序是两件事,当前实现需要依赖分轮规划来避免一部分写入冲突。

本文整理依据

内容依据项目复习材料整理,本次发布没有重新审计源码或复跑历史实验。相同主题按专项笔记和较新复盘统一,原始笔记保留在本机。

  • Co Coder/code-golang简历题分析.md
  • Co Coder/MewCode_90分钟面试复习笔记.md
  • Co Coder/MewCode_五层架构设计复习笔记.md