机器学习中的欠拟合与过拟合：如何用Python快速诊断与解决（实战指南）

最新推荐文章于 2026-06-28 22:07:23 发布

原创

最新推荐文章于 2026-06-28 22:07:23 发布 · 693 阅读

机器学习中的欠拟合与过拟合：如何用Python快速诊断与解决（实战指南）

在机器学习项目的生命周期中，模型性能的优化往往是最具挑战性的环节。许多开发者都有这样的经历：精心设计的模型在训练集上表现优异，却在真实场景中频频失误；或者模型看似学习了很多特征，却连训练数据的基本规律都难以捕捉。这些现象背后，通常隐藏着机器学习领域的两大经典难题——欠拟合（Underfitting）与过拟合（Overfitting）。

本文将聚焦这两个核心问题，通过Python实战演示如何系统性地诊断和解决模型拟合异常。不同于理论讲解，我们会直接从代码层面切入，展示如何使用Scikit-learn、TensorFlow等工具快速识别问题，并实施包括正则化、数据增强、模型简化等在内的七种解决方案。无论您是正在调试第一个机器学习模型的新手，还是需要优化生产环境模型的数据科学家，这些经过实战检验的方法都能提供直接可用的参考。

1. 诊断：识别模型拟合问题的技术手段

1.1 学习曲线分析

学习曲线是诊断拟合问题最直观的工具之一。通过绘制模型在训练集和验证集上的性能随数据量或训练迭代的变化，我们可以清晰看到模型的学习状态：

from sklearn.model_selection import learning_curve
import matplotlib.pyplot as plt

def plot_learning_curve(estimator, X, y):
    train_sizes, train_scores, val_scores = learning_curve(
        estimator, X, y, cv=5, scoring='accuracy',
        train_sizes=np.linspace(0.1, 1.0, 10))
    
    plt.figure(figsize=(10,6))
    plt.plot(train_sizes, np.mean(train_scores, axis=1), 'o-', label='Training score')
    plt.plot(train_sizes, np.mean(val_scores, axis=1), 'o-', label='Validation score')
    plt.xlabel('Training examples')
    plt.ylabel('Accuracy')
    plt.legend()
    return plt

典型的学习曲线模式有三种：

曲线特征	训练集表现	验证集表现	诊断结论
两条曲线收敛于低值	持续较低	持续较低	欠拟合
训练曲线远高于验证曲线	持续升高	达到峰值后下降	过拟合
两条曲线接近且平稳	保持稳定	保持稳定	拟合良好

1.2 交叉验证指标对比

K折交叉验证能更可靠地评估模型泛化能力。关键指标对比可参考以下代码：

from sklearn.model_selection import cross_validate

metrics = ['accuracy', 'precision_weighted', 'recall_weighted']
scores = cross_validate(model, X, y, cv=5, scoring=metri

标签