阅读前哨:Agent 的自我改进,开始围绕 Harness 展开
两篇 RSI 论文把焦点放在模型外围的工作系统:一条路线探索如何从任务中积累可迁移的改进经验,另一条把任务表现与运行成本放在一起权衡。
阅读状态:本文写作时尚未通读两篇论文。内容依据论文摘要及项目公开说明整理,属于阅读前哨,不是精读结论、复现记录,也不代表已经验证的个人判断。文中的技术问题和迁移想法是为后续阅读提出的线索。
最近看到两篇讨论 RSI(Recursive Self-Improvement,递归自我改进)的工作:Harness² 和 HarnessPro。它们把注意力放在模型外围的 Agent 工作系统——harness——上:提示、工具、记忆、执行流程和评估机制如何共同影响 Agent 完成任务的方式。
这带来一个值得追问的问题:模型本身不变时,Agent 能否通过改进自己的工作系统,在之后的任务中表现得更好? 两篇论文都沿着这个方向探索,但关注点不同:Harness² 强调从当前任务中学习,并把经验带到后续任务;HarnessPro 则把任务表现和执行成本作为共同的优化目标。
Harness²:从当前任务积累改进经验
论文摘要指出,开放环境中的任务往往在 harness 设计时不可预见,因此缺少可靠的标准答案验证器;同时,针对单个任务的优化也不一定能迁移到新场景。
Harness² 提出两层递归。第一层是任务级改进:通过 Propose–Probe–Compose 流程提出候选改动、在对照条件下探测其行为,再组合有效改动;摘要称这一过程不依赖 ground-truth verifier。第二层是持续改进:从这些编辑中提取经验,更新后续任务可用的 improvement harness。
作者报告了 WorkBuddy-Bench、JobBench 和 LAB 三个基准上的结果,覆盖四种模型与 harness 配置。摘要称,单步改进在 GLM-5 和 Gemini 3.5 Flash 配置上均优于各自基础 harness;摘要列出的最高增益分别为 WorkBuddy-Bench 11.5 points、JobBench 4.5 points、LAB 11.8 percentage points。具体实验设置、各项结果对应的配置和指标口径,还需要读正文确认。
HarnessPro:把表现和成本一起纳入选择
HarnessPro 聚焦另一个实际问题:Agent 任务成功率提高时,运行成本可能也会上升。论文摘要描述的流程由多个专门 Agent 协作完成,包括诊断执行轨迹、按不同表现—成本偏好规划改动、实现候选 harness,再用 LLM 生成的测试评估候选。摘要特别说明,优化阶段不使用 ground-truth solutions 或官方测试。
它不是只返回一个版本,而是按不同部署预算选择三种配置:偏成本的 Lite、兼顾两者的 Medium,以及偏任务表现的 Heavy。摘要报告,在 Terminal-Bench 2、SWE-Bench Pro 和 ProgramBench 上,GPT-5.5 与 Codex 配置下的 Heavy 相对 RHO 平均提高 2.0 个百分点的 pass rate,同时将平均单任务成本降低 26.1%;作者称这一优势也出现在 GLM-5.2 与 Claude Code 配置中。成本定义、基线细节和各基准的分项结果仍待核验。
两条路线的区别
- Harness² 关心改进如何迁移:除了改进当前任务使用的 harness,还尝试把改进经验沉淀下来,帮助后续任务适应。
- HarnessPro 关心候选如何取舍:当表现和成本不能同时无限优化时,提供不同偏好的 harness 配置供部署选择。
- 共同问题是评估是否可信:没有标准答案时,系统怎样判断一次 harness 改动真的有帮助?由模型生成的测试能提供什么证据,又有哪些盲点?
这些工作讨论的是 Agent 执行系统的改进,不应直接等同于模型权重的自我训练。评估它们时,也需要把候选生成、测试运行和长期维护带来的额外开销放进视野。
后续精读时值得核对
- Propose–Probe–Compose 的对照条件、行为信号和组合规则是什么?它们怎样降低评估器偏差?
- Harness² 提取的经验具体以什么形式保存?跨任务迁移的证据有多强,如何避免把局部补丁推广成通用规则?
- HarnessPro 的 LLM 生成测试如何构造和筛选?与真实任务表现的一致性如何验证?
- 论文报告的收益是否计入生成候选与运行评测的额外成本?换一种预算偏好,Lite、Medium、Heavy 的取舍会如何变化?
一个待验证的迁移想法
这些工作也提示了一个适合小规模验证的问题:资料整理 Agent 的改进,能否来自持续积累可复用的来源核验、事实标注和发布检查规则,而不只是反复改写提示词?可以用同一批材料比较不同规则版本,并记录事实错误、遗漏、人工修改量和处理成本。这个设想并未由上述论文直接验证;在有测试样本和真实反馈之前,它仍只是一个实验方向。
当前结论状态:已根据公开摘要和项目说明整理出两条研究路线及精读问题;正文细节尚未核验,也没有进行代码复现或个人 Agent 实验。