2025-06-08
后Transformer架构革新
谷歌提出“注意力+保留门”新架构，清华团队三连击改进注意力机制，参数减少40%、训练速度提升5-8倍，显示Transformer统治地位首次遭遇系统性挑战，底层范式换代窗口已开启。
2024-04-27
大模型前沿突破与范式演进
OpenAI、Meta、清华等机构在模型架构、推理加速、多模态理解等方向连续发布突破性成果，Scaling Law依旧有效，GPT-5、SceneScript、MH-MoE等新模型或新范式预示通用智能继续逼近，行业进入“下一代技术”卡位赛。