AI快开门

发现最好的AI工具

← 返回话题列表

# Q*算法

相关话题

2024-06-26

小模型推理能力跃升

颜水成团队联合南洋理工发布Q*算法，让7B模型推理能力最高提升百倍，已开源；同期Deepseek Coder v2在代码任务上超越Gemini Pro，显示通过算法创新即可打破“参数至上”迷信，为端侧部署与私有化应用提供新范式。
小模型 Q*算法 推理能力 开源 端侧部署
📰 4 条相关内容 查看详情 →
2024-06-25

推理算法革新

昆仑万维Q*、小米SUBLLM等新算法在7B小模型上实现数十倍推理提速，降低算力门槛，为端侧部署与普惠AI奠定技术基础，或改变“大算力+大参数”主流路线。
Q*算法 SUBLLM 推理加速 小模型 端侧AI
📰 4 条相关内容 查看详情 →