2025 年 4 月的一个清晨，全世界的 ChatGPT 用户发现一件没人事先问过他们的事：它开始默认引用你的全部历史对话。你两年前随口提过的忌口、你上次求职的狼狈、你深夜写了一半的道歉信——从那天起，它们默默参与着它的每一个回答。官方说这叫「记忆改进」，可以退出，但默认全开。创始人奥特曼随后放话，目标是让它「记住你的一生」；一位资深工程师博主写下被转了无数次的评论，标题直白：《我真不喜欢 ChatGPT 的新记忆档案》——他说得最狠的一句是：这不是助手有了记性，这是有公司替你建了一份档案，而你住在里面。
这场风波值得作为第五部收官章的开场，因为它让一件一直隐形的事一夜之间变得体感刺骨：你喂给它什么，它就是什么。它的口吻、它的偏心、它的聪明与愚蠢，不全在模型里——相当一部分在你递给它的那一堆东西里。而在 Agent 时代（上一章我们刚把 AI 放出笼子），这堆东西不再只是「你打的那行字」：它包括系统指令、工具说明、过往对话、检索来的资料、它自己的工作笔记——行业给这整件事起了个新名字，本章的主角：上下文。
一、从「提示工程」到「上下文工程」
先花三分钟做个术语考古，因为这个词的诞生过程本身就说明问题。「提示工程」（prompt engineering）曾是 AI 圈最热的词——教会你怎么跟模型说话。2025 年 6 月，Shopify 的 CEO 托比·吕特克发了一条推，说他更愿意叫它「上下文工程」——他给的定义是：为任务提供恰好的全部条件，让大模型有可能把它解出来的一门手艺。几天后，前特斯拉 AI 总监卡帕西转发表示同意，补了他自己的定义：把上下文窗口填上恰到好处的信息——示例、检索来的资料、工具、状态与历史——的一门精细的艺术与科学。又过了两天，资深工程师博主西蒙·威利森写文章梳理这场正名，顺手埋汰了旧词：所谓提示工程，如今已经沦落成「往聊天框里打字」的浮夸说法。
三个人的措辞不同，指向同一个转向：重点从「怎么措辞」移到了「给什么信息」。措辞是锦上添花，信息结构才是地基——你给模型的世界，决定了它眼里的世界。四个月后，Anthropic 的工程团队发了长文正式接棒，把这个概念定调成 Agent 时代的核心工程学科，并且给了一句本章的题眼：上下文是关键的、但有限的资源——多到一定程度，边际收益开始递减。
「有限资源」这四个字，是接下来两节的全部剧情。
二、窗口不是越大越能用：喂得越多，可能答得越差
一个流行的错觉：上下文窗口越大（如今动辄号称百万 token），就能把资料全塞进去，模型自然更明白。2025 年 7 月，向量数据库公司 Chroma 的研究团队发了一份让这个错觉很难堪的报告，名字起得像病理学：上下文腐烂（context rot）。
他们让十八个主流模型做了将近二十万次测试，结论的第一层很直接：模型不是均匀地使用它的上下文的——输入越长，即使任务难度完全没变，可靠性也持续下降；而且衰减的形态随任务类型变，没有一种万能的吃法。最有杀伤力的是其中一个对照：同一个多轮对话问答任务，一种喂法是全量塞入约十一万 token 的完整历史，另一种只给三百 token 的相关片段。结果：十八个模型，无一例外，全量输入的表现更差。十一万 token 的「更全信息」，输给了三百 token 的「更准信息」。
这不是孤证。英伟达团队同年做过另一组实验：长文档问答，用检索只取相关段落喂给模型，对比把整份超长文档原样塞满窗口。检索版只用四万八千 token，打赢了顶级模型塞满十九万六千 token 的全量版。更有意思的细节是：喂多少检索段落也存在甜点区——喂太少，信息不够；喂太多，又重新开始变差，一条倒 U 形曲线。「全都给它」和「什么都不给」一样，都是失败策略；正确答案永远在中间的刻度上。
为什么会这样？Anthropic 那篇文章给了个好懂的机制：注意力像预算，n 个 token 之间是 n² 的两两关系——窗口里的东西越多，每一件分到的注意力越薄。给个比喻：上下文不是仓库，是工作台面。台面越大当然能摊越多东西，但你要的那把螺丝刀，是在四样东西里找得快，还是在四十样里？台面塞满的后果不是「信息都在」，是「手找不到工具」。
由此得到第五部最重要的设计律之一：按需喂，胜过全都喂。它的工程版（术语叫检索增强，RAG——按需把相关资料拉进窗口）你不用自己写，各家工具都有现成能力；你要记住的是它的产品含义：给 AI 资料的方式，从「倾倒」改成「投喂」——什么时候喂、喂哪一段、喂多少，全部是设计决策，全部是判断。
三、五格抽屉：上下文的平民清单
那么，一个 Agent 的上下文里到底有哪几样东西？Anthropic 的工程文章给了张五件套清单，翻译成平民版，是五格抽屉——你喂给 AI 的全部东西，逃不出这五格，每格都有自己的设计问题。
第一格，指令（系统提示词）：它是谁、扮演什么角色、什么该做什么不能做。设计问题：写多细？太短则漂，太长则挤——还记得注意力预算吗？第二格，工具：它能调用什么。工具越多不一定越好——每件工具的说明都挤占窗口，选项一多，选择本身就成了负担。第三格，例子（少样本）：第八章的例集就住在这格——正例、反例、难例，恰恰好地喂。第四格，历史：对话与工作记录。长任务的死穴：历史会膨胀，撑爆窗口。工程上的对策有两招平民也能懂——压缩（把太长的历史摘要成短的重述，损失细节换回空间）和分身（子任务派给独立窗口的子 Agent 去跑，它烧几万 token 干活，只把一千 token 的结论带回来）。第五格，外部资料：检索来的、按需进入的——上一节的「投喂」对象。
五格抽屉摆在一起，你会发现一件结构性的事：它们全都在争夺同一份注意力预算。指令写长了，例子就得精简；工具加多了，历史就得压缩。上下文设计的本质不是「把每格装满」，是一份预算分配——每一格放多少，是产品决策，不是技术默认。市面上的 Agent 产品（编程副驾、搜索助手、客服机器人）真正的差异，一大半不在模型，在这份预算表上。
四、上下文就是产品：你的系统提示词，你的产品说明书
最后把镜头拉回产品。2025 年还发生过两件安静的标志性事件：4 月，OpenAI 第一次把 ChatGPT 的系统提示词公之于众——那份指挥着数亿人对话体验的隐形指令，外界第一次全文读到；一个月后，Anthropic 随 Claude 4 发布了它五千八百多字的系统提示词，立刻被工程师们逐句研读，有人称之为「上下文工程的公开课」。两家把系统提示词当产品文档发布的动作，宣告了一件事：指挥 AI 的那份上下文，本身就是产品的一部分——值得写、值得版本化、值得公开审。
这件事的平民版更彻底。教培老板的家长答疑助手，它的「系统提示词」是什么？是那一页喂给它的背景：本机构的情况、老师们的口吻、什么必须转人工、数据不足时怎么坦白——再加上第八章的例集。这些字符串没有一行是「技术」，但它们共同决定了这个助手是谁。改其中一句「多用表情符号显得亲切」，用户的体感变化会比换一个模型还大。这就是本章标题的完整含义：在 AI 产品里，上下文不是产品的输入，上下文就是产品本身。功能列表写在提示词里，质量标准写在例集里，品牌语气写在指令里——你改的不是提示词，是产品。
收第五部的官。三章合起来是一条完整的放手路线：第十二章把 Agent 认识清楚（一个带工具的循环），第十三章把笼子造好（自治度一格一格放、爆炸半径锁死），本章给放出去的它带上干粮——指令、工具、例子、压缩过的记忆、按需投喂的资料。笼子（边界）决定它闯多大祸，干粮（上下文）决定它把事办得多好。而干粮的配比，没有出厂设置，只有你的判断。
还有一句诚实声明，说给开头那位「住在档案里」的用户：喂进上下文的东西，都有去向。你喂给它的每一份资料，都跟着它的数据政策走——产品的隐私边界（第十三章画过）必须延伸到上下文这一层：不该进档案的东西，一开始就不要喂。
产品上线了，笼子造好了，干粮配好了——接下来，是它开始自己跑的日子。跑出来的每一步，都是下一章的原料：数据闭环。
出处与延伸
- ChatGPT 记忆风波：OpenAI《Memory and new controls for ChatGPT》（2024-02-13 上线）；2025-04-10 默认引用全部历史对话（可退出），奥特曼同日表态；其「记住你的一生」目标见 TechCrunch（2025-05-15）；Simon Willison《I really don’t like ChatGPT’s new memory dossier》（2025-05-21）。注：公开证据只支持「默认开启+可退出」，未见官方「改为默认关闭」的动作，本书不采信讹传。
- 术语史：Tobi Lütke 推文（2025-06-19，“the art of providing all the context for the task to be plausibly solvable by the LLM”，源于 Shopify 内部 AI 使用手册）；Andrej Karpathy 推文（2025-06-25，“the delicate art and science of filling the context window with just the right information”）；Simon Willison《Context engineering》（2025-06-27，含「提示工程已沦为往聊天框打字」的自嘲与「inferred definitions are the ones that stick」）；Anthropic《Effective context engineering for AI agents》（工程博客，2025-09-29，本章「五格抽屉」「注意力预算」「压缩与分身」「有限资源」的框架来源）。术语更早的零星用法（2023–2024）存在但无可核的首创者，本书按「2025 年 6 月走红」的可核链条记述。
- 上下文腐烂（context rot）：Chroma 团队《Context Rot: How Increasing Input Tokens Impacts LLM Performance》（2025-07-14）——18 个模型、约 194,480 次调用；核心结论为「非均匀衰减、形态随任务类型」，并非经典的「两端衰减 U 型」（后者为 2023 年 lost-in-the-middle 研究的旧说法，本书不混用）；11.3 万 token 全量 vs 约 300 token 聚焦片段的对照出自其中 LongMemEval 实验。
- 检索 vs 全量：NVIDIA《In Defense of RAG in the Era of Long-Context Language Models》（arXiv:2409.01666，2024-09）——OP-RAG 48K 以 47.25 F1 胜 Gemini-1.5-Pro 全量 196K 的 43.08；检索块数与质量呈倒 U 形，存在甜点区。
- 系统提示词公开事件：OpenAI o3/o4-mini System Card 附录（2025-04-16，首次公开生产系统提示词）；Anthropic 随 Claude 4 发布 5,838 字系统提示词，Simon Willison《Highlights from the Claude 4 system prompt》（2025-05-25）；社区维护的系统提示词库（GitHub）为后续生态。
- 「住在档案里」：本书对 Willison 诸篇批评的概括转述，非引文；「五格抽屉」「按需喂胜过全都喂」「工作台面比喻」「干粮与笼子」为本书提法；LangChain《Context Engineering》（2025-07）的 write/select/compress/isolate 四策略与「CPU/RAM」类比为业界另一通行框架，本章「压缩/分身」取其平民版。