← 返回系列列表

Qwen3-Next 4 个模型

阿里巴巴 · 2025.09 - 2025.09

发布时间线

2025.09.12
Qwen3-Next-80B-A3B-Thinking
训练成本低于Qwen3-32B的十分之一;32k以上上下文推理吞吐量提升十倍以上;支持256K超长上 ...
2025.09.12
Qwen3-Next-80B-A3B-Instruct
训练成本低于Qwen3-32B的十分之一;32k以上上下文推理吞吐量提升十倍以上;支持256K超长上 ...
2025.09.12
Qwen3-Next-80B-A3B-Base
1. 混合注意力机制(Gated DeltaNet+标准注意力)兼顾长上下文效率与召回能力 2. 高 ...
2025.09.12
Qwen3-Next-80B-A3B
极稀疏MoE架构,512专家中每个token仅激活约3B参数(约3.75%)、混合注意力机制(75% ...
发布日期 公司 模型名称 类型 特性
2025-09-12 阿里巴巴 Qwen3-Next-80B-A3B-Thinking 主流 训练成本低于Qwen3-32B的十分之一;32k以上上下文推理吞吐量提升十倍以上;支持256K超长上下文处理;原生Multi-Token Prediction机制提升Speculative Decoding接受率
2025-09-12 阿里巴巴 Qwen3-Next-80B-A3B-Instruct 主流 训练成本低于Qwen3-32B的十分之一;32k以上上下文推理吞吐量提升十倍以上;支持256K超长上下文处理;原生Multi-Token Prediction机制提升Speculative Decoding接受率
2025-09-12 阿里巴巴 Qwen3-Next-80B-A3B-Base 主流 1. 混合注意力机制(Gated DeltaNet+标准注意力)兼顾长上下文效率与召回能力 2. 高稀疏度MoE架构(80B总参/3B激活),512专家10路由设计 3. 原生Multi-Token Prediction (MTP) 机制提升Speculative Decoding接受率 4. 32k+上下文推理吞吐提升10倍以上,训练成本仅为Qwen3-32B的9.3%
2025-09-12 阿里巴巴 Qwen3-Next-80B-A3B 主流 极稀疏MoE架构,512专家中每个token仅激活约3B参数(约3.75%)、混合注意力机制(75% Gated DeltaNet + 25% 标准Attention),平衡长文本效率与全局召回、原生集成Multi-Token Prediction (MTP),提升Speculative Decoding接受率与推理速度、训练成本降低至约1/10,32K+长上下文推理吞吐提升约10倍、原生支持256K超长上下文,通过YaRN技术可扩展至百万级Token