量化压缩 - AI话题 - AI快开门

2025-01-12

扩散模型极致压缩

北航与ETH提出BiDM，首次将扩散模型权重与激活完全二值化至1 bit，存储节省28倍、推理加速52倍，为端侧高保真生成铺平道路，或重塑AIGC部署格局。

BiDM 1bit扩散模型量化压缩端侧生成

2024-08-01

大模型训练与算力竞赛

Meta、OpenAI、百度等头部厂商披露下一代模型训练规模，Llama-4算力需求10倍于Llama-3，Apple Intelligence、PaddleMIX 2.0同步升级，训练-推理一体化与量化压缩成为降本关键，行业进入“万卡”常态化阶段。

Llama-4 算力10倍训练成本量化压缩万卡集群