2026-09-13

AI基础设施与系统优化

从可插拔Agent评测底座、AI指导AI系统自动进化,到vLLM-Omni视频推理服务优化,AI基础设施层正经历系统性升级。这些工作聚焦降低评估成本、提升系统效率、实现算法自我迭代,为大模型规模化部署与持续进化提供底层支撑。
2025-10-26

大模型推理与系统优化

NVIDIA联合港大、MIT推出Fast-dLLM v2,端到端吞吐提升2.5倍;同时上下文敏感框架解决位置偏差,显示大模型系统层创新仍是落地关键,硬件-算法协同优化空间巨大。