Token(词元)
模型处理文本的最小单位,约等于 0.5–0.75 个汉字或 0.75 个英文单词。API 按 token 计费,上下文窗口也按 token 计量。
把文本切成模型最小处理单位(token)的工具。同一段文字在不同分词器下 token 数不同,直接影响 API 计费和上下文占用。中文通常 1 字 ≈ 0.6-1 token。
模型处理文本的最小单位,约等于 0.5–0.75 个汉字或 0.75 个英文单词。API 按 token 计费,上下文窗口也按 token 计量。
用海量文本训练出来的超大规模神经网络,通过预测“下一个词”学会语言、知识与推理,ChatGPT、Claude、Gemini 背后都是 LLM。
模型一次能“记住”的对话与资料长度上限,以 token 计。窗口越大,能塞进去的文档越长;超长文本的中段召回是各家共同的短板。