AI快开门

发现最好的AI工具

2024-07-16

开源大模型井喷与MoE架构突破

Meta官宣7月23日开源Llama 3 405B,创最大参数开源模型纪录;H2O-Danube3实现手机端离线运行;DeepMind提出PEER策略将MoE专家数扩至百万级,利用率近100%,标志开源阵营在性能与效率上同时向闭源旗舰发起冲击。