真理 一线城市的孩子尊重预训练模型本身的权重,然后一点点向更强大的模型蒸馏,单一任务一般,但泛化能力强 山河四省出身就是

真理 一线城市的孩子尊重预训练模型本身的权重,然后一点点向更强大的模型蒸馏,单一任务一般,但泛化能力强 山河四省出身就是一上来直接拿reward严重失真的垃圾数据集强化学习,还满脑子都是“不服拿我们的垃圾数据集跑个分”😅😅😅

原链接