推理(Inference)
模型用训练好的参数对新输入做预测的过程。你每次提问触发的那次计算就是推理,推理成本和速度决定 API 定价。
零基础看懂 AI:先扫一遍术语表建立词汇量,再挑一个场景动手。每个术语都有一句“直接答案”式解释,不绕弯。
模型用训练好的参数对新输入做预测的过程。你每次提问触发的那次计算就是推理,推理成本和速度决定 API 定价。
把文字、图片等转成一串数字(向量),让语义相近的内容在向量空间里距离也近。搜索、聚类、RAG 都建立在它之上。
专门存向量并支持快速相似度检索的数据库(如 Pinecone、Milvus、Chroma)。企业做知识库问答时,文档先转向量存入,提问时检索最相关的片段喂给模型。
控制模型输出随机性的参数:越低越稳定保守(适合翻译、代码),越高越发散有创意(适合头脑风暴)。多数产品默认 0.7 左右。