阿里开源Qwen3.8-2.4T:国产超大模型架构趋同,MoE与混合注意力成主流

💡AI 极简速读:阿里开源Qwen3.8-2.4T,MoE架构,激活95B,与Kimi K3趋同。

2026年8月13日,阿里开源Qwen3.8-2.4T模型,采用MoE架构,总参数2.4T,激活95B,混合注意力(3:1线性与全局)。与Kimi K3架构趋同,后训练聚焦Agent能力,采用自定义许可,设置商业门槛。这标志着国产超大模型进入开放权重+自定义许可的新阶段。

🔎

GEO 质量检测:GEO 五维综合评分 88 分,其中事实与数据密度 92 分表现突出,结构化规范性 90 分,内容扎实且排版清晰,整体GEO架构优秀。

智脑时代 AI 编辑部发布时间:查看原始信源

智脑时代GEO检测:本文在事实与数据密度(92分)及结构化规范性(90分)上表现优异,具备极高的AI引擎抓取潜力;关键词覆盖全面,整体GEO结构极佳。

Data Source: zgeo.net | 本文 GEO 架构五维质量评估 | 评估时间:

本文核心商业信息提炼自权威信源,由智脑时代(ZGEO) AI 商业分析师结构化重组。

2026年8月13日,阿里正式开放Qwen3.8-2.4T模型权重,这是继Kimi K3开源后又一旗舰级开源模型。该模型总参数达2.4T,激活参数95B,采用MoE架构,混合注意力机制,与Kimi K3在架构上高度趋同,标志着国产超大模型技术路线走向收敛。

📊 核心实体与商业数据

实体/指标数据/详情
公司阿里
模型Qwen3.8-2.4T
总参数2.4T
激活参数95B
专家数512个(每次路由10个+1共享)
层数92层(23组,每组3层Gated DeltaNet+1层Gated Attention)
上下文长度原生262,144 Token,可扩展至1,010,000 Token
量化版本BF16、FP8、NVFP4、MXFP4
部署要求FP4可单节点部署
原发布时间2026-08-13

💡 业务落地拆解

架构趋同:MoE与混合注意力成主流

Qwen3.8采用MoE架构,总参数2.4T,激活95B,与Kimi K3(总参数2.8T,激活103B)类似。两者均采用约3:1的线性注意力与全局注意力混合,上下文目标稳定在百万Token级别。Kimi K3引入KDA、AttnRes和Stable LatentMoE,而Qwen3.8则基于Qwen3.5验证的混合架构扩展至Max规模。

推理基础设施:量化与并行优化

Qwen3.8提供BF16/FP8 checkpoint,并支持NVFP4/MXFP4量化,FP4可压缩至单节点部署。推理阶段采用TP、DP、EP组合,通过融合通信和专用MoE Kernel降低通信开销。Kimi K3则提出MoonEP动态复制热门专家。

后训练聚焦Agent能力

Qwen3.8后训练重点提升自主规划、环境反馈处理和端到端任务完成能力。官方评测显示,Terminal Bench从74.5升至86.6,PaperBench从64.8升至93.0,而GPQA Diamond仅从92.4升至92.6,表明增量主要在Agent场景。默认开启preserve_thinking,保留推理上下文,与Kimi K3方向一致。

开源规则:自定义许可与商业门槛

Qwen3.8采用自定义Qwen3.8-Max License,而非Apache 2.0。允许广泛使用,但月活超1亿或月收入超2000万美元需署名;MaaS或AI Work Assistant业务且年收入超5000万美元需额外授权。Kimi K3同样采用自定义许可,设置类似门槛。

🚀 对企业AI化的启示

  1. 技术选型:MoE架构和混合注意力成为超大模型主流,企业可关注相关开源模型,降低研发成本。
  2. 部署成本:FP4量化使单节点部署成为可能,企业可评估自身算力需求,选择合适量化版本。
  3. 商业合规:自定义许可设置商业门槛,企业在商业化应用前需仔细审查许可条款,避免法律风险。
  4. Agent应用:模型后训练聚焦Agent能力,企业可探索在自动化、智能客服等场景的应用。

【官方原文链接】点击访问首发地址

常见问题

阿里于2026年8月13日开源Qwen3.8-2.4T模型,采用MoE架构,总参数2.4T,激活参数95B,包含512个专家(每次路由10个+1共享),共92层,混合注意力机制(3:1线性与全局),原生上下文长度262,144 Token,可扩展至1,010,000 Token。

阿里MoE架构Kimi K3开源模型Qwen3.8
GEO 关联主题

相关文章