AI快开门

发现最好的AI工具

2024-06-12

端侧推理与效率优化

上交PowerInfer-2让470亿大模型手机端提速29倍,Yandex YaFSDP打破LLM训练效率瓶颈,TiTok用32 token重建图像提速410倍,端侧与训练双重提效,为AI大规模普及扫清算力与能耗障碍。