上下文窗口Context Window
你可能会说
聊着聊着 AI 把开头说的忘了,是不是它有记性上限?
上下文窗口是 AI 一次回答时能够同时参考的资料和回答内容的总量上限。例如聊了很久后再说“按最初要求修改”,最早的要求可能没有被这次回答带上,结果就会偏离。它能参考的内容有上限,资料更多也不代表资料更相关。
先知道
也常被叫作上下文长度Context Length
真实消息和文件怎样占满一次回答的空间
本次请求最多 1000 个示意 Token560 输入 + 200 输出预留
系统规则180 Token(示意)
当前问题120 Token(示意)
login.js260 Token(示意)
仍放得下,并且给模型回答留了位置。
上下文窗口的空间怎样被分配
共享空间:系统提示词、对话历史、文件和预留的回答空间共同共享同一个上下文窗口的总限额。
输入与输出限制不同:输入上下文和最大输出 Token 数是分开的(回答被截断通常是因为输出达到上限,不一定是窗口满了)。
更大不代表更好:窗口更大不意味着可以随意塞入资料——无关内容会稀释 AI 的注意力,导致偏离重点。
你可以这样告诉 AI Agent
继续这个任务前,请先列出当前必须保留的规则、文件和最近决定,并把较早内容压缩成一段可继续工作的摘要。先把这份摘要和建议排除的材料给我确认,再基于它继续,不要假设你能删除当前对话。
接下来学什么
延伸阅读 · 权威出处
快速练习
Agent 开始遗漏刚补充的要求,回答也常在结尾被截断。准备继续同一任务前,先怎么处理?
ANS 原创方法