SGLang - AI话题 - AI快开门

2024-07-27

Meta推出迄今最强开源模型Llama 3.1 405B，性能对标闭源旗舰；SGLang、vLLM等推理框架同步优化，实现3K Star级加速；OpenAI则限时免费微调GPT-4o mini。开源与闭源同时放大招，降低开发者门槛，加速应用层创新。

Llama 3.1 开源微调 SGLang Meta

# SGLang