术语表不该从A背到Z：用关系图掌握机器学习语言

按字母顺序浏览机器学习术语表，可以快速查到一个词，却很难回答它与邻近概念有什么关系。学习率为什么不是模型参数，验证集为什么不能用来报告最终成绩，准确率为什么会在少数类任务中误导，推理为什么不是继续训练？这些问题都不是单条定义能够解决的。更有效的学习方式，是把术语放进一条系统链：样本被表示为特征，模型根据参数产生预测，损失驱动训练更新，指标帮助人做选择，部署后的数据又反过来检验假设。

先为每个新词制作六格概念卡

概念卡不要求抄写权威长定义，而要逼迫学习者从六个角度理解：它属于对象、过程还是度量；进入它的输入是什么；产出什么；由谁设置或学习；与哪个词最容易混淆；什么反例会让它失效。例如“学习率”属于训练控制量，由开发者或调度策略设置，影响参数每次更新幅度，容易与模型自动学习的权重混淆，过大时可能使损失震荡。

1. 一句自己的话：只写它解决的具体问题。
2. 输入与输出：用箭头表示信息怎样通过。
3. 责任主体：数据、算法、训练者或线上系统谁决定它。
4. 相邻概念：至少连接两个前因和两个后果。
5. 易混反例：构造一个名字相似但职责不同的对象。
6. 验证动作：说明怎样在实验中观察它。

若一张卡片无法写出验证动作，往往说明理解仍停留在词语层。例如“过拟合”不应只写成模型太复杂，而应能通过训练表现继续改善、验证表现恶化这一分歧来观察；“收敛”也不能只等同于损失很小，它描述的是优化过程变化趋缓，可能停在并不理想的位置。

第一条主轴从一行数据走到一个预测

数据集只是样本的集合，不保证样本彼此独立，也不保证分布稳定。特征是模型真正接收的表示，不等于原始字段；编码、缩放和交叉都可能生成新特征。标签则是监督信号，可能来自人工判定、后续行为或规则代理。三者一旦在时间或实体上混淆，就会出现数据泄漏：模型训练时看见了真实使用时不可能获得的信息。

参数与超参数的分界在“谁更新它”

权重和偏置通常由训练算法根据数据与梯度更新，属于模型参数。学习率、正则强度、树深、批量大小等多由开发者或外层搜索决定，属于超参数。两者都可能是数字，区别不在格式，而在优化层级。一个系统也可能把原本手工设置的量交给另一层算法学习，因此分类要结合具体训练过程，不应只靠固定清单。

损失函数告诉优化器往哪个方向调整参数，评估指标告诉人这个方案是否满足目标。它们可以相同，但职责不能因此混为一谈。

损失通常要求可用于优化，并在样本或批次上产生训练信号；指标可以更贴近业务，却未必连续或可微。训练时最小化交叉熵，选择模型时观察召回率，部署时监控人工审核负担，是完全合理的三层设计。若团队只说“模型分数”，却不说明是训练损失、离线指标还是线上结果，沟通很容易失真。

• 迭代是一次更新动作，轮次是完整遍历训练数据的计量。
• 批量是一次更新所使用的样本集合，批量大小影响噪声与资源。
• 梯度表示局部变化方向，优化器决定怎样累计和应用这些信息。
• 正则化改变学习偏好，早停利用验证轨迹限制继续拟合。

分类指标要围绕错误角色连接

二分类预测可以按真实类别与预测类别交叉形成四个格子。真正、真负、假正和假负不是四个孤立缩写，而是后续指标的共同原材料。精确率关注预测为正的结果有多少可靠，召回率关注真实正例有多少被找出。假正率则以真实负例为分母，与精确率回答不同问题。类别比例变化时，精确率可能显著变化，而真阳性率与假阳性率的关系有另一种稳定性。

分类阈值把连续分数变为离散决定。模型没有因为移动阈值而重新训练，但错误构成会改变。ROC曲线观察不同阈值下真阳性率与假阳性率，曲线下面积概括排序能力；精确率召回率曲线在正类稀少时往往更直接。任何面积指标都不替代具体阈值选择，因为实际系统最终仍需承担某一组合的误报与漏报成本。

准确率只有在错误对称且类别不偏时才容易解释

若九成样本属于负类，一个始终预测负类的规则就能获得很高准确率，却完全找不到正类。此时应同时报告类别基线、混淆矩阵和按类指标。更进一步，要按人群、时间或设备切片，检查总体平均是否掩盖局部失败。指标卡应写明计算样本、时间窗口、阈值和置信区间，避免同名指标因分母不同产生争论。

泛化不是测试集上的一次高分

训练集用于拟合参数，验证集用于选择方案，测试集用于方案冻结后的独立估计。三者的责任边界比固定比例更重要。如果同一用户、同一设备或同一时间事件被随机分散到不同集合，模型可能借助重复线索得到虚假高分。所谓泛化，是在预期应用分布的新样本上仍能保持有用表现；测试集只能提供一次有限估计，并不能保证未来世界不变化。

1. 训练误差高、验证误差也高，先检查表达能力、特征和优化。
2. 训练误差低、验证误差高，检查过拟合、泄漏与分布差异。
3. 离线指标稳定、线上结果下降，检查数据漂移与反馈回路。
4. 总体指标稳定、局部人群受损，检查切片覆盖与公平风险。

独立同分布是一种便于分析的假设，而不是现实数据的自动属性。季节、政策、产品界面和采样规则都会改变输入分布；模型部署后还可能影响用户行为，使后续标签受到模型自身干预。上线系统因此需要监控数据质量、特征分布、预测分布、延迟和可获得的结果标签。

动态模型与静态模型是在交换新鲜度和控制力

静态模型按版本训练、验证再发布，回滚和审计较清楚，但响应变化较慢。动态模型持续吸收新数据，可以更快适应，却更容易把坏标签、攻击样本或短期波动写入参数。选择哪一种不只取决于数据流速，还取决于标签延迟、审核能力、回滚成本和监管要求。术语关系图应把“在线训练”连接到监控、数据验证和版本治理，而不是只连接到“更实时”。

检查点保存某一时刻的模型状态，模型导出则还应包含可调用的计算与输入输出签名。只有权重而没有结构和预处理，往往无法独立恢复服务。部署、推理、反馈和再训练构成另一个循环，它与离线优化循环相连，却有不同的失败条件。

用关系冲突检验自己是否真正掌握

完成术语卡后，故意提出看似合理的错误句子，再解释冲突。例如“训练损失下降，所以线上召回一定提高”忽略了指标职责与分布变化；“AUC很高，所以默认阈值可直接使用”混淆排序能力与决策成本；“特征重要，所以预测时也一定可得”忽略了时间边界；“模型已经收敛，所以找到了全局最优”把过程稳定与最优性画上等号。能指出错误连接，比背出定义更接近工作中的使用能力。

一张成熟的术语图不追求收录最多节点，而要让关键边可解释：数据怎样成为特征，参数怎样被损失更新，超参数怎样由验证选择，阈值怎样把分数变成行动，部署后又怎样通过反馈暴露分布变化。以后遇到嵌入、集成、候选采样或梯度裁剪等新词，只需把它放回对应链路并补齐六格卡片。字母表提供检索入口，关系图才提供推理路径；真正掌握一门领域语言，就是能用这些路径解释现象、发现矛盾并设计验证。