上下文工程 · 知识笔记

📌 导读

Context Engineering（上下文工程） 是近年来AI领域兴起的新方向。它不改变模型本身，而是通过精心设计输入内容，让大模型在有限的上下文窗口内理解更准、回答更好、成本更低。本笔记梳理其核心概念、现实问题与四大实现策略。

🧩 核心概念

Context（上下文） — 指模型的全部输入，包括用户问题、背景信息、相关资料、工具列表、历史对话等。模型基于这些内容生成答案。

Context Window（上下文窗口） — 模型输入能容纳的最大 token 数量。超过上限，最早的内容会被丢弃。

Token（令牌） — 文本拆分的最小单位。1 个 token ≈ 0.75 个英文单词或 1.5 个汉字。

100万 Gemini 2.5 Pro
上下文窗口

≈7本书 100万 token
可容纳长度

40万 GPT-5
上下文窗口

⚠️ 三大现实问题

为什么不能把全部资料直接丢给模型？

① 大多数模型上下文窗口有限
主流模型窗口仅 12.8 万～40 万 token，小模型甚至只有几万，连一本产品手册都装不下。

② 输入杂乱影响模型理解
不加筛选的资料会导致输入冗余、矛盾，模型混淆重点，输出含糊其辞。

③ 输入越多成本越高
模型按 token 计费，大量无关上下文会带来不必要的开销。优化输入 = 优化成本。

“与其把所有信息都塞进去，不如精心设计组织，确保模型看到准确、有结构、重点突出的内容。”

🎯 什么是 Context Engineering

上下文工程 关注的是如何设计给模型的输入内容，让模型在有限的上下文窗口中：

理解更准 — 信息清晰、结构合理、重点突出
回答更好 — 输出稳定、准确、有用
花费更少 — 减少冗余 token，降低调用成本

“核心思想：不改变模型结构，只改变模型看到什么。”

🔥 为何最近才火起来？

原因一：模型已足够强大
如今只要给出清晰完整的输入，模型就能给出优质回答。多数不满意的回答，根源在于输入信息不够好。

原因二：Agent 兴起
Agent 将工具与模型结合，运行过程中会积累大量工具执行结果，迅速占满上下文窗口，context 管理直接决定 Agent 效果。

🧭 Context Engineering 四大策略

借鉴 LangChain 设计框架，形成四大方法体系：

📦 保存 Context 持久化

对上下文做筛选、总结，存入内存或硬盘等存储介质，在需要时再调出。解决了信息持久化问题。

▸ 典型例子：ChatGPT 记忆功能

用户在某次对话中告知个人信息，ChatGPT 会将其存入记忆库，并在后续对话中精准调取相关记忆。

🔍 选择 Context 最核心

从海量信息中选出与用户问题最相关的内容放入上下文，是系统高效准确运行的保障。分为两类：

静态选择：每次请求都放入的固定核心信息（如系统指令、编码规范），短小且必须始终在场。
动态选择：根据用户问题实时检索最相关内容（如 RAG、工具选择），像聪明图书管理员精准找到所需页面。

▸ 典型例子：Cursor rules / Claude.md

每次请求自动携带项目信息与编码规范，确保 AI 行为符合预期。RAG 也是动态选择的典型实现。

🗜️ 压缩 Context 节省空间

Agent 运行时会积累大量历史消息（模型输出、工具执行结果），迅速占满上下文窗口。压缩策略对历史内容做总结，释放空间。

▸ 典型例子：Claude Code Auto‑Comp

当上下文使用量超过 95% 时，自动运行压缩程序，对之前内容做总结并丢弃原始内容。用户可在 claude.md 中指定压缩重点（如保留测试输出和代码改动）。

🧱 隔离 Context 模块独立

不同模块拥有各自独立的上下文，互不干扰。通常出现在多智能体（Multi‑Agent）系统中，各子 Agent 职责清晰，context 彼此隔离。

▸ 典型例子：Anthropic 多智能体研究系统

一个 Lead Agent 负责任务分发与汇总，下属多个 Sub Agent 分别负责搜索 PDF、搜索网络、搜索图片等。每个 Sub Agent 有自己独立的工具、运行历史和记忆体系，上下文完全隔离。

💡 Claude Code 中也有类似 Sub Agent 设计，每个子 Agent 拥有独立上下文。

💡 核心洞察

“Context Engineering 不是某一项特定技术，而是一类技术的统称。它包含的方法五花八门，核心目标始终是：在有限的上下文窗口中，让模型看到最合适的内容。”

从保存到选择，从压缩到隔离，四类策略相互配合，共同构建高效的上下文管理体系。这也是 Agent 系统稳定运行的关键基石。

📚 推荐阅读

1. LangChain 的 Context Engineering 文章

系统讲述上下文工程的概念与方法，是入门必读。本笔记也借鉴了其中的内容。

2. Cognee 的 "Don't Build Multi‑Agent"

标题看似反驳多智能体，实则主张 Agent 应串联执行，并强调做好上下文工程，确保输入简洁明了。一文收获 Agent 构建与 Context Engineering 双重启发。

✨ 总结 · 要点速记

Context = 模型输入，Context Window = 输入容量上限（以 token 计）
Context Engineering = 精心设计输入 → 理解更准、回答更好、花费更少
四大策略：保存 ↔ 选择（核心） ↔ 压缩 ↔ 隔离，相互配合
选择是关键：静态选择（固定核心信息）+ 动态选择（RAG 等精准检索）
优化输入就是优化成本，也是 Agent 稳定运行的基石