AI快开门

发现最好的AI工具

2024-04-02

端侧与推理框架提速

Google JAX 在七项基准中超越 PyTorch/TF,成为 GPU 训练推理新标杆;Transformer-Lite 实现手机 GPU 高效运行 LLM;苹果发布设备端模型性能超 GPT-4。框架与硬件协同优化,让大模型离线和边缘部署进入实用阶段。