稀疏模型 - AI话题

2025-12-16

CMU、Mamba作者等团队提出“压缩即智能”、无预训练76K小模型登ARC-AGI榜三，OpenAI开源99.9%稀疏模型，挑战堆数据、堆算力传统Scaling Law，揭示推理能力可脱离巨量预训练，为低算力、高可解释新路线奠基。

2024-04-11

元象XVERSE-MoE-A4.2B、Mistral 8×22B等混合专家模型相继开源，以4B级激活参数对标13-70B稠密模型，显著降低推理成本，推动中小企业低成本部署大模型，预示“稀疏架构+开源”将成为国内大模型落地新路径。

MoE 开源元象 Mistral 稀疏模型

AI快开门