笔记 · Agent ·

上下文是要省着花的预算

模型的注意力有限,上下文越长越容易忘。要做的是只放最少、最有用的信息进去。

读书笔记原文:《Effective context engineering for AI agents》↗Prithvi Rajasekaran, Ethan Dixon, Carly Ryan, Jeremy Hadfield(Anthropic Applied AI 团队) · Anthropic

为什么读

「上下文工程」这个词最近到处出现,这篇是 Anthropic 2025 年 9 月写的比较系统的解释。读完基本能理解为什么 Claude Code 是现在这个用法。

我记下的要点

  1. 从提示词工程到上下文工程: Agent 是在循环里不断调用工具的,上下文会越积越多,所以不是写一次提示词就完了,而是每一步都要挑选放什么进去。
  2. 上下文会「腐烂」: 窗口越长,模型从中找回信息的准确度越低。可以把上下文看成一份注意力预算,每多一个 token 都在消耗它。
  3. 系统提示词要找对高度: 别写成死板的 if-else,也别空泛。先写一个最小版本,用最好的模型测,哪里失败再补哪里;例子用少量典型的,别堆一长串边界规则。
  4. 即用即取: 不要一开始就把资料全塞进去,只保留文件路径、链接这类轻量标识,运行时再用 grep、head、tail 去查。Claude Code 是混合做法:CLAUDE.md 一开始就加载,其余靠工具探索。
  5. 长任务的三种办法: 压缩(快满时总结对话,带着摘要重开);结构化笔记(把待办、NOTES.md 写在窗口外,需要时读回);子 Agent(在干净的窗口里干活,只交回一两千 token 的摘要)。

我的想法

今天做网站时用到的几件事,读完才知道各自对应哪种办法:site-plan.md 和 DESIGN.md 是一开始就加载的那部分;派子 Agent 读网页只拿回摘要,是子 Agent 架构。

「先写最小版本,失败了再补」很合我的习惯。以前我会想一次把要求写全,现在觉得写得越多,可能越是在浪费预算。

我还没想清楚的是:怎么判断上下文已经开始「腐烂」了?作为用户我看不到注意力,只能从结果变差去猜。

我打算试试

  • 把 DESIGN.md 里 AI 本来就会遵守的条目删掉,看效果有没有变化