AI快开门

发现最好的AI工具

2025-01-11

模型效率与知识蒸馏新思路

大连理工提出Wasserstein距离替代KL散度进行知识蒸馏,更好保留样本几何结构,在NeurIPS 2024引发关注;北航等首次把扩散模型全量化至1bit,存储压缩28倍、推理加速52倍,为端侧部署提供极致效率方案。