2024-10-02
非Transformer新架构突破
MIT CSAIL衍生团队推出Liquid Foundation Model，从第一性原理重构网络结构，同等参数下性能超越Transformer，并发布40B MoE版本，可扩展性与效率优势明显，为后Transformer时代提供新范式。