治理幻觉：Handbook.md 揭示长文档无法约束 AI 智能体

随着 Handbook.md 基准测试的发布，研究人员发现即便拥有超长上下文能力的顶尖大模型，在面对冗长的政策文档时，其作为自主智能体（Agents）的合规性与指令遵循能力会显著退化。

八卦洞察

Handbook.md 的研究结果给当前“长上下文即正义”的叙事泼了一盆冷水。目前业界普遍认为，只要上下文窗口足够大，就能通过灌输冗长的 SOP（标准作业程序）来规范智能体行为。然而，实验证明，随着文档复杂度的增加，即便是 GPT-4o 或 Claude 3.5 等顶尖模型，其合规率也会出现断崖式下跌。这表明“长上下文处理”与“长指令遵循”是两种完全不同的能力维度。模型在长文本中定位信息（Needle In A Haystack）相对容易，但在多重约束下保持逻辑闭环却极难。这预示着，未来的智能体架构必须从“单体长指令”转向“解耦式治理”，单纯靠堆砌文档无法解决智能体的安全性与可靠性问题。

行动建议

• ▶ 弃用“巨型 Prompt”： 停止将数百页的合规手册直接塞入 System Prompt。应将政策拆解为原子化的规则，利用 RAG（检索增强生成）根据当前任务动态注入相关约束。
• ▶ 引入多层防御架构： 在智能体输出端部署独立的安全审核模型（Guardrail Model），专门负责校验输出是否违反核心政策，而非依赖执行模型进行“自律”。
• ▶ 量化合规衰减： 开发者应采用类似 Handbook.md 的压力测试框架，在部署前量化智能体在不同上下文长度下的指令失效率，建立合规性预警基准。