2024-03-09
AI硬件加速与边缘算力革新
Groq LPU凭500 token/s刷新推理速度,微软Surface新品搭载“AI CPU”抢占AI PC入口,硬件专用化趋势明显,为端侧大模型与实时应用打开落地窗口。
2024-02-22
推理芯片突围英伟达
Groq自研LPU芯片推理速度达GPT-4的18倍,能耗优于GPU;新型光子/存算一体芯片登Nature子刊,强调低功耗与防黑客特性,算力多元化开始冲击英伟达垄断格局。