AI快开门

发现最好的AI工具

2024-03-09

AI硬件加速与边缘算力革新

Groq LPU凭500 token/s刷新推理速度,微软Surface新品搭载“AI CPU”抢占AI PC入口,硬件专用化趋势明显,为端侧大模型与实时应用打开落地窗口。
2024-02-22

推理芯片突围英伟达

Groq自研LPU芯片推理速度达GPT-4的18倍,能耗优于GPU;新型光子/存算一体芯片登Nature子刊,强调低功耗与防黑客特性,算力多元化开始冲击英伟达垄断格局。
2024-02-21

Groq LPU刷新大模型推理极限

前谷歌TPU团队创业推出Groq LPU,StarCoder实测每秒500 tokens,较GPU提速18倍,成本模型引热议。软硬协同设计掀起“后GPU”时代讨论,推理芯片一夜易主,直接喊话OpenAI“太慢”。