SUBLLM - AI话题 - AI快开门

2024-06-25

推理算法革新

昆仑万维Q*、小米SUBLLM等新算法在7B小模型上实现数十倍推理提速，降低算力门槛，为端侧部署与普惠AI奠定技术基础，或改变“大算力+大参数”主流路线。

Q*算法 SUBLLM 推理加速小模型端侧AI