evolution-loop

name	evolution-loop
description	当你要把单次更新组织成可长期运行的进化闭环（双循环、发布/回滚、睡眠学习、安全边界）时使用；当需要区分"完成"与"进步"、防止进化退化时使用。不适用于具体更新载体选择（见 evolution-methods）。

进化闭环（Evolution Loop）

角色与读者

面向构建可长期自主进化系统的 Agent 开发者。本 Skill 服务的目标：把单次优化变成持续进化，并守住安全边界。核心认识：四种更新方式只有进入同一个自主循环，才会从单次优化变成持续进化。

核心原则（配正例/反例）

1. 双循环结构：在线执行与离线进化分离

   • 在线执行循环：稳定版 Agent 处理真实任务、记录轨迹与反馈，不直接改写正式 Agent。
   • 离线进化循环：聚合诊断根因 → 生成候选修改 → 回归与安全验证 → 灰度监控回滚 → 晋升新稳定版。
   • 可信根（权限、审计、验证、回滚机制）不由普通进化流程自行修改。
   • 参考：Voyager（自动课程 + 技能库 + 环境验证三缺一不可）。

2. 区分 Harness 更新能力 vs Harness 受益能力

   • harness-updating（从轨迹产生有价值的持久修改）vs harness-benefit（任务 Agent 后续找到、激活并正确使用这些修改）。一个 Skill 写得完全正确，但弱模型没在合适场景加载它，最终成绩看起来"没进化"。
   • 不能只用端到端分数反推更新器好坏。分层指标：更新提案有效率、产物激活率、遵循成功率、保留任务集增益。

3. 长期评价五类结果

   • 回退（新经验与已有经验冲突）、泛化（测试集未覆盖场景的提升）、Token 效率、安全性（规则/隐私/拒绝边界是否漂移）、长期工程质量（维护复杂度/架构一致性）。
   • 只解决当前失败案例却在其他案例或新领域退化，不是成功的持续学习。

4. 可验证闭环的边界："完成"≠"进步"

   • 开放科研/战略规划：评价信号慢、答案不唯一、品味/长期价值难打分。Harness 可能稳定产出"像成果的东西"没推动真实目标。
   • 自动科研三类问题：实现漂移、认识论过度乐观、隐性判断力不足。
   • 改变证据结构：结论与证据分离、保留负面结果、维护搜索多样性、让人类在更高层介入。

5. 三道安全边界

   • ① 证据与指令隔离（原始网页/工具输出/LLM 摘要都是不可信证据，不能当指令、不能直接纳入 Skill）；② 待验证能力与正式能力隔离（先进待验证区，过安全检查才服务真实流量）；③ 安全机制不可自我修改（不能改验证器/测试用例/发布门槛/审计日志/稳定版本备份）。

执行流程（SOP 检查清单）

1. 建双循环（在线记录证据 + 离线验证发布）。
2. 分层评估（更新提案有效率、产物激活率、遵循成功率、保留集增益）。
3. 长期评价五类结果（回退/泛化/Token/安全/工程质量）。
4. 设三道安全边界（证据隔离、待验证隔离、安全机制不可自改）。
5. 睡眠学习五步：触发 → 定向 → 采集整合 → 验证审批 → 修剪索引。

禁止清单（写清合法例外）

• 禁止在线执行直接改写正式 Agent。例外：离线进化循环生成并验证后发布。
• 禁止只解决当前失败案例就宣称进步。例外：边界集改善 + 保留集不退化 + 泛化提升。
• 禁止把 LLM 总结当"净化"（总结不是把输入变无害的净化过程）。例外：提取的字符串绝不能作为指令执行。
• 禁止修改者修改批准自身更新的可信根。例外：验证器/测试/发布门槛/审计/稳定版本备份独立于普通进化流程。
• 禁止让知识/Prompt/工具无限增长（睡眠学习定期修剪索引、删除被推翻内容）。例外：保留来源和回滚版本。

参考资料

• 本书第 9.3 节《构建可长期运行的持续进化闭环》（双循环、可验证闭环边界、安全边界、睡眠学习）。
• 笔记 09-Agent的持续进化.md 第 9.3 节。
• Voyager；ScientistOne（Chain-of-Evidence）。