合成数据（Synthetic Data） Synthetic Data

由模型生成的训练或评测数据，用于补足真实数据稀缺、隐私受限或标注昂贵的场景。主流做法是合成 + 少量人工校验，但要防止把模型自身偏见放大。

相关术语

微调（Fine-tuning）

在预训练模型基础上，用自己领域的数据继续训练，让模型的风格与能力向特定任务靠拢。比 RAG 更改变模型的“本能”，成本与门槛也更高。

大语言模型（LLM）RLHF（人类反馈强化学习）

评测基准（Benchmark）

标准化测试集，用来横向比较模型能力（MMLU、GPQA、SWE-bench 等）。两个提醒：分数存在被针对性优化的空间，榜单排名也不等于你的业务表现。

大语言模型（LLM）合成数据（Synthetic Data）推理模型（Reasoning Model）

知识蒸馏（Distillation）

用大模型（教师）的输出训练小模型（学生），把能力压缩进更小的体积。很多「小模型表现逼近旗舰」的背后就是蒸馏。

微调（Fine-tuning）量化（Quantization）推理模型（Reasoning Model）