2024-10-21
大模型训练与推理加速
英伟达nGPT将长文本训练速度提升20倍，清华MixQ实现近无损量化并提高推理吞吐，港大LightRAG两周获4.7k星降低RAG成本。架构、硬件与系统协同优化，使大模型更快、更省、更易部署，降低行业进入门槛。
2024-10-15
AI搜索与文档交互产品化
PDFtoChat等对话式检索工具集中爆发，ChatGPT新增搜索界面，港大LightRAG开源，显示大模型正重塑知识获取链路，办公、教育、科研场景效率有望再上一个台阶。