量化模型 - AI话题

2025-10-18

百度0.9B PaddleOCR-VL横扫4项SOTA并登顶Hugging Face，证明“小模型+多模态”在文档解析场景已可替代大模型，实现PC级本地部署。端侧轻量化趋势将降低开发者门槛，推动OCR、文档理解在政企、教育、金融场景快速渗透。

2024-11-05

Meta 推出量化 Llama 移动版，苹果端侧 Core ML 优化 Llama-3.1-8B 达 33 token/s，Xbox AI 聊天机器人上线，终端设备正成为大模型新战场，边缘推理体验快速提升。

AI快开门