AI快开门
发现最好的AI工具
首页
分类
模型
模型历史
模型排名
模型价格
话题
简报
搜索
← 返回话题列表
#
反向传播
相关话题
2024-07-12
Transformer核心优化突破
FlashAttention-3与LowMemoryBP相继发布，H100利用率飙至75%，显存与速度兼得；训练GPT-2成本跌破700美元，反向传播效率再升级，为大模型普及与端侧部署奠定工程基础。
FlashAttention
显存优化
反向传播
训练成本