43、加利福尼亚住房数据集的多元线性回归分析

加利福尼亚住房数据集的多元线性回归分析

1. 过拟合与欠拟合

在创建模型时，一个关键目标是确保它能够对尚未见过的数据做出准确预测。而阻碍准确预测的两个常见问题是过拟合和欠拟合：
- 欠拟合 ：当模型过于简单，无法基于训练数据进行有效预测时就会发生欠拟合。例如，在实际问题需要非线性模型的情况下，却使用了线性模型（如简单线性回归）。以四季温度变化为例，如果尝试创建一个能全年预测温度的通用模型，简单线性回归模型就会出现欠拟合。
- 过拟合 ：当模型过于复杂时会出现过拟合。最极端的情况是模型记住了所有训练数据。如果新数据与训练数据完全相同，这或许可以接受，但通常并非如此。使用过拟合的模型进行预测时，与训练数据匹配的新数据会产生完美的预测结果，但模型对于从未见过的数据将无法做出有效预测。

2. 案例研究：加利福尼亚住房数据集的多元线性回归

我们将使用 scikit - learn 中包含的加利福尼亚住房数据集进行多元线性回归分析。该数据集有 20,640 个样本，每个样本包含 8 个数值特征。通过使用所有 8 个数值特征进行多元线性回归，能够比仅使用单个特征或部分特征做出更精确的房价预测。

在开始之前，需要启动支持 Matplotlib 的 IPython：

ipython --matplotlib

3. 加载数据集

加利福尼亚住房价格数据集源自 1990 年美国人口普查，每个普查街区组对应一行数据。一个街区组通常有 600 到