训练新范式 - AI话题 - AI快开门

2024-12-14

小模型逆袭与大模型效率战

微软 Phi-4（14B）数学击败 GPT-4o，Cohere 推出可跑低端设备的 Command R7B，显示“小模型+数据/训练算法创新”正在挑战“唯参数论”。效率竞赛降低算力门槛，利好端侧部署与中小企业，可能重塑云端订阅商业模式。

小模型 Phi-4 Command R7B 端侧部署训练新范式

2024-04-08

大模型效率与训练新范式

从矩阵内核重写、神经压缩文本训练到零样本检测，多条研究同时指向“让大模型更快、更省、更安全”。谷歌DeepMind、斯坦福、清华等团队提出ReFT、压缩训练、Fast-DetectGPT等方案，推理速度最高提升5倍，检测速度提升340倍，为落地成本和可信应用扫清障碍。

大模型提速训练新范式零样本检测神经压缩推理优化