什么是过拟合？
在训练机器学习模型时，你可能遇到这样的情况：模型在训练数据上表现极好，准确率接近100%，但一换到新数据就“翻车”，预测结果差得离谱。这种情况就是典型的过拟合（Overfitting）——模型把训练数据里的噪声和细节都记住了，反而失去了泛化能力。
就像一个学生死记硬背了练习题的答案，考试题目稍有变化就不会做了。我们想要的是能举一反三的模型，而不是只会背答案的“书呆子”。
增加数据量
最直接的办法是让模型见多识广。更多的数据意味着模型能学到更普遍的规律，而不是钻牛角尖去记个别样本的特征。
比如你在训练一个识别猫狗的模型，如果只有50张图片，模型可能会记住某张猫的背景是窗帘，下次看到带窗帘的狗就误判成猫。但如果数据扩充到上万张，来自不同场景、角度、光照，模型就没法靠“走捷径”蒙混过关了。
数据增强
现实中获取大量标注数据成本高，这时候可以用数据增强来“造假”。对图像来说，旋转、翻转、裁剪、调亮度都是常用手段；文本数据可以做同义词替换或随机删减。
例如图像分类任务中，用以下方式生成新样本：
from tensorflow.keras.preprocessing.image import ImageDataGenerator
datagen = ImageDataGenerator(
rotation_range=20,
width_shift_range=0.2,
height_shift_range=0.2,
horizontal_flip=True,
zoom_range=0.2)
datagen.fit(x_train)简化模型结构
如果你用一个特别复杂的神经网络去拟合一个小问题，就像拿高射炮打蚊子，很容易过拟合。减少网络层数、降低每层神经元数量，能让模型更“克制”。
比如原本用了5个隐藏层共1000个节点的全连接网络，尝试缩减为2层共200个节点，往往能在保持性能的同时提升泛化能力。
正则化：给权重加点约束
L1 和 L2 正则化通过在损失函数中加入权重的惩罚项，防止模型过度依赖某些特征。
L2 正则化（也叫权重衰减）很常见，在 Keras 中可以这样添加：
from tensorflow.keras import regularizers
model.add(Dense(64, activation='relu',
kernel_regularizer=regularizers.l2(0.001)))这个 0.001 是正则化系数，太小不起作用，太大又会让模型欠拟合，需要反复调试找到平衡点。
Dropout 让神经元学会分担
Dropout 是一种简单却有效的策略：在训练过程中随机“关闭”一部分神经元，迫使其他神经元不能偷懒，必须共同承担表达能力。
就像团队合作，如果总让一个人干活，其他人就会依赖他。Dropout 就是定期让成员请假，逼着大家轮流顶上。
model.add(Dropout(0.5)) # 每次训练随机丢弃一半神经元一般放在全连接层之后，数值从 0.2 到 0.5 不等，太高会影响收敛。
早停法（Early Stopping）
训练时间太长也会导致过拟合。虽然训练误差还在下降，但验证误差已经开始上升，说明模型正在“死记硬背”。
早停法就是设个监控员，一旦发现验证性能连续几轮不再提升，就立刻叫停训练。
from tensorflow.keras.callbacks import EarlyStopping
early_stop = EarlyStopping(monitor='val_loss', patience=5)
model.fit(x_train, y_train,
validation_data=(x_val, y_val),
epochs=100,
callbacks=[early_stop])交叉验证评估真实表现
别只看一次训练结果就下结论。使用交叉验证能把数据分成多份，轮流作为训练集和验证集，综合评估模型稳定性。
比如 5 折交叉验证，每折都训练一次并记录验证得分，最后取平均。如果各折之间差异很大，说明模型可能已经过拟合某部分数据。
集成学习：多个弱模型抱团取暖
单个模型容易走偏，多个模型投票决策更稳。像随机森林就是典型代表——每个树都在不同的数据子集和特征组合上训练，彼此独立又互补。
即便个别树记住了噪声，多数派仍然能纠正错误，整体鲁棒性更强。