Token(词元)
模型处理文本的最小单位,约等于 0.5–0.75 个汉字或 0.75 个英文单词。API 按 token 计费,上下文窗口也按 token 计量。
模型一次能“记住”的对话与资料长度上限,以 token 计。窗口越大,能塞进去的文档越长;超长文本的中段召回是各家共同的短板。
模型处理文本的最小单位,约等于 0.5–0.75 个汉字或 0.75 个英文单词。API 按 token 计费,上下文窗口也按 token 计量。
回答前先从外部知识库检索相关资料,再交给模型生成答案。解决模型知识过时与“一本正经胡说”的问题,企业知识库问答的标准架构。