context-compaction

name	context-compaction
description	3层 Context 压缩策略，支持无限长度会话。 使用此 skill 当你需要： - 理解 Context 压缩的原理 - 实现消息历史摘要 - 处理超长对话导致 context overflow

Context Compaction — 3层压缩策略

问题

每轮对话 messages[] 都在增长。几轮之后 context 就满了。 解决思路：不是截断，是压缩。

3层压缩策略（s06）

Layer 1：消息摘要（Message Summarization）

定期把多轮对话压缩成一条摘要消息：

# 原始（10轮对话，~8000 tokens）
messages = [
  {"role": "user", "content": "添加用户认证"},
  {"role": "assistant", "content": "我帮你..."},
  {"role": "user", "content": "再加个注册"},
  {"role": "assistant", "content": "好的..."},
  ... 10轮
]

# Layer 1 压缩后
messages = [
  {"role": "user", "content": "添加用户认证 + 注册功能"},  ← 摘要
  {"role": "assistant", "content": "完成了，代码已提交"},
]

触发条件：messages 总长度 > 50% max_tokens

Layer 2：关键决策提取（Key Decisions）

只保留重要的架构决策、操作结果、文件路径，丢弃探索过程：

COMPRESSED = """
=== 项目状态 ===
- 完成了用户认证（JWT）
- 添加了 /auth/login 和 /auth/register 端点
- 使用了 PyJWT 库
- 数据库迁移：users 表

=== 关键文件 ===
- apps/api/routers/auth.py
- apps/api/models/user.py

=== 当前进行中 ===
实现论文搜索 API
"""

Layer 3：元信息压缩（Metadata）

把完整消息压缩成结构化元信息：

{
  "type": "compressed_history",
  "summary": "完成用户认证，添加登录注册API，使用PyJWT",
  "decisions": ["使用JWT而非session", "密码用bcrypt哈希"],
  "files_touched": ["auth.py", "user.py", "models.py"],
  "active_task": "实现论文搜索API",
  "next_step": "添加 arxiv_id 字段到 papers 表",
}

何时压缩

信号	动作
messages 长度 > 50% max_tokens	Layer 1
单轮工具调用 > 20 次	Layer 2
会话超过 2 小时	Layer 2
历史消息全部是工具调用	Layer 3

压缩实现伪代码

def should_compact(messages, max_tokens):
    total = sum_tokens(messages)
    return total > max_tokens * 0.5

def compact(messages, strategy="auto"):
    if strategy == "auto":
        if len(messages) > 20:
            return layer3_compress(messages)
        elif total_tools > 20:
            return layer2_compress(messages)
        else:
            return layer1_summarize(messages)

与 AgentLoop 集成

class CompactingAgentLoop(AgentLoop):
    def __init__(self, config, dispatcher, compact_threshold=0.5):
        super().__init__(config, dispatcher)
        self.compact_threshold = compact_threshold

    def run(self, messages):
        result = super().run(messages)
        if self._should_compact(messages):
            messages[:] = self._compact(messages)
        return result

实际经验

• 不要过度压缩：保留关键上下文（当前任务、目标文件、已确定方案）
• 优先 Layer 1：摘要比元信息更可靠
• 记录压缩历史：方便回溯
• LLM 辅助压缩：让 LLM 自己写摘要（用工具调用一次）