外观
什么是过拟合和欠拟合？
3 分钟速学卡
30 秒口述： 我会把欠拟合理解为模型连训练数据中的稳定规律都没有学好，把过拟合理解为模型过度适配训练样本和噪声，导致未见数据表现下降。诊断不能只看一个准确率，而要看训练与验证学习曲线、切片误差，并先排除数据泄漏和训练服务偏差。处理上分别从模型容量、特征、优化、数据质量、正则化和早停入手，最终以独立测试和线上回放验证泛化。
- 本质： 欠拟合是稳定规律没学到，过拟合是把样本细节学得太死。
- 核心机制： 必须联合训练、验证和测试证据诊断；先排除泄漏、管道错误和优化失败。
- 关键判断： 容量、数据、正则和优化要一起权衡；修复结论以独立评测和线上回放为准。
- 项目落地： 示例项目：表格分类模型训练分数接近满分、验证分数下降。排查顺序是切分和泄漏 → 标签与特征 → 学习曲线 → 容量与正则 → 分桶误差。
- 边界与坑： “过拟合就是训练准确率高”：还要看未见数据表现和切分可信度；“加正则一定有效”：正则过强可能造成欠拟合。
目录
面试官为什么问
面试官在看候选人能否从现象—假设—验证—修复闭环处理泛化问题，而不是机械回答“过拟合加 Dropout，欠拟合加层”。
小白先看懂
裁缝给一位顾客做衣服：如果只会做宽松布袋，连这位顾客都不合身，像欠拟合；如果把每处褶皱都缝死，换个人就完全穿不了，像过拟合；好的版型抓住稳定尺寸，并允许合理变化。顾客样本对应训练数据，版型复杂度对应模型容量，新顾客对应未见数据。
类比能说明泛化，却没有覆盖标签噪声、分布漂移和数据泄漏；验证曲线异常时必须先检查数据管道。
图：教学图片｜什么是过拟合和欠拟合？
替代文本： 16:9 中文教学信息图，三位裁缝分别制作过于简单、尺寸合适、过度贴合单一顾客的版型；下方对应三段学习曲线区域。
读图结论： 同时看训练与验证曲线。先排除泄漏和管道错误。
这张图片用于直观比较欠拟合、合适泛化和过拟合。精确公式、参数、失败分支和事实边界仍以正文与 Mermaid 为准。
图片生成记录： model=gpt-image-2，generated=2026-07-15，prompt_version=v1，reviewed=2026-07-16，review_basis=user-confirmed；查看生成 Prompt。
图：模型容量与训练验证误差的关系
替代文本： 随模型有效容量增加，训练误差持续下降，验证误差先下降后上升；左侧是欠拟合，中部是较好泛化，右侧是过拟合。
图表加载中…
读图结论： 过拟合和欠拟合是相对于数据、目标和约束的诊断结果，不是某种模型的固定标签。
核心原理
- 欠拟合常表现为训练和验证误差都高，可能来自特征不足、容量不足、正则过强或优化未收敛。
- 过拟合常表现为训练持续改善而验证恶化，可能来自样本少、容量过强、噪声、重复或验证集过度使用。
- 偏差—方差是解释框架：过强约束往往偏差高，过度灵活往往方差高，但真实系统还受不可约噪声和分布变化影响。
先做极小数据过拟合测试可验证训练链路；若极小数据都学不会，不应先归因于“泛化问题”。
项目和生产视角
示例项目： 表格分类模型训练分数接近满分、验证分数下降。排查顺序是切分和泄漏 → 标签与特征 → 学习曲线 → 容量与正则 → 分桶误差。可比较限制树深、增加样本、清理噪声和早停，并用固定测试集验证。
生产上还要监控分布漂移和线上特征缺失；模型上线退化不能自动归为过拟合。本文未提供真实实测数字。
常见错误回答
- “过拟合就是训练准确率高”：还要看未见数据表现和切分可信度。
- “加正则一定有效”：正则过强可能造成欠拟合。
- “深度模型必然过拟合”：风险取决于数据、容量、训练和约束。
- “线上变差就是过拟合”：也可能是漂移、特征不一致或服务故障。
递进追问
- 如何用学习曲线区分数据不足和模型容量不足？
- 为什么训练损失不降时先做极小数据过拟合？
- 交叉验证能完全消除过拟合吗？
- 早停为什么可以看成一种正则化？
- 大模型微调时怎样识别灾难性遗忘与过拟合？
关联阅读
总结
一句话记忆： 欠拟合是稳定规律没学到，过拟合是把样本细节学得太死。
- 必须联合训练、验证和测试证据诊断。
- 先排除泄漏、管道错误和优化失败。
- 容量、数据、正则和优化要一起权衡。
- 修复结论以独立评测和线上回放为准。