← 返回话题列表

# SGLang

相关话题

2024-07-27

开源大模型生态升级

Meta推出迄今最强开源模型Llama 3.1 405B，性能对标闭源旗舰；SGLang、vLLM等推理框架同步优化，实现3K Star级加速；OpenAI则限时免费微调GPT-4o mini。开源与闭源同时放大招，降低开发者门槛，加速应用层创新。
Llama 3.1 开源 微调 SGLang Meta
📰 3 条相关内容 查看详情 →