过度训练 - AI话题 - AI快开门

2025-05-05

预训练数据反噬现象

CMU等顶级高校发现“灾难性过度训练”：预训练数据过量反而损害下游微调性能，挑战“数据即燃料”信条，将促使行业重新制定数据配比、课程学习与早期停止策略。

过度训练预训练数据策略模型性能课程学习