上下文窗口(Context Window)
模型一次能“记住”的对话与资料长度上限,以 token 计。窗口越大,能塞进去的文档越长;超长文本的中段召回是各家共同的短板。
模型一次能「读入」的最大文本量,以 token 计(如 128K tokens ≈ 一本 20 万字的书)。超出部分模型看不到;窗口内也有「中段遗忘」现象——关键信息尽量放开头或结尾。
模型一次能“记住”的对话与资料长度上限,以 token 计。窗口越大,能塞进去的文档越长;超长文本的中段召回是各家共同的短板。
模型单次可处理的超长输入能力(十万到百万 token 级),能把整本书或整个代码库塞进去。代价是成本更高,且存在「中段遗忘」——关键信息放头尾更稳。
模型处理文本的最小单位,约等于 0.5–0.75 个汉字或 0.75 个英文单词。API 按 token 计费,上下文窗口也按 token 计量。