2025-03-13
国产视频生成模型开源潮
潞晨Open-Sora 2.0、阿里VACE、Luma IMM等国产模型相继开源权重与训练流程,支持运动轨迹控制、主体替换、10倍采样提速,将商业级视频生成成本拉至20万美元级。开源生态加速技术平权,有望重塑短视频、广告及影视预制片制作流程。
2025-03-13
高效训练与推理优化成焦点
清华APBB框架长文推理提速10倍,腾讯UPFT前缀微调砍掉99%采样成本,CMU元强化微调在无需额外数据下提升模型推理9.3%。训练与推理成本双降,为大模型规模化部署和端侧落地提供可行路径,成为后训练优化阶段最受关注的技术方向。
2024-03-29
推理优化与硬件降本
CPU即可跑大模型推理、KV缓存与分段注意力机制、钉钉RAG长文本无上限等方案集中出现,显示在GPU短缺背景下,产业正通过算法-系统协同降低部署成本,推动AI应用规模化落地。