AI快开门

发现最好的AI工具

2024-08-02

大模型压缩与端侧部署

LLMC、Gemma 2 2B等工具与模型让405B参数大模型可在单卡甚至iPhone上运行,CPU服务器也能跑千亿模型,显著降低硬件门槛,推动大模型在边缘与中小企业的普及。