← 返回话题列表

# 大模型平民化

相关话题

2026-09-27

推理优化与硬件基础设施

大模型推理效率与硬件协同优化取得突破。Colibrì实现无GPU、25GB内存笔记本运行744B参数模型，推动大模型平民化；Inferact为TPU v7定制引擎，运行Kimi较GPU快57%。两项进展分别从端侧与云端降低使用门槛，彰显软硬件协同优化的核心价值。
推理优化 端侧部署 TPU 大模型平民化 硬件加速
📰 2 条相关内容 查看详情 →