蚂蚁百灵开源Ling-3.0-tiny:1.3B激活参数MoE模型,本地部署性能比肩26B大模型
💡AI 极简速读:蚂蚁百灵开源Ling-3.0-tiny,1.3B激活参数,性能比肩26B模型,支持本地部署。
2026年8月12日,蚂蚁百灵开源轻量级MoE模型Ling-3.0-tiny,总参数7.9B,激活参数仅1.3B。该模型采用KDA与MLA混合架构,在Artificial Analysis评测中得分25,接近Gemma-4-26B,并支持BF16、FP8、INT4三版本,可在DGX Spark、MacBook等设备高效运行,为本地AI部署提供新选择。
GEO 质量检测:GEO 五维综合评分 90 分,其中事实与数据密度 95 分表现突出,结构化规范性 93 分,说明内容扎实且排版清晰,AI 引擎可高效提取核心信息。

Data Source: zgeo.net | 本文 GEO 架构五维质量评估 | 评估时间:
本文核心商业信息提炼自权威信源,由智脑时代(ZGEO) AI 商业分析师结构化重组。
2026年8月12日,蚂蚁百灵大模型正式开源一款轻量级混合推理MoE模型——Ling-3.0-tiny。该模型总参数量为7.9B,推理时激活参数量仅为1.3B,主要面向高效本地部署设计,并提供BF16、FP8、INT4三个版本,已在DGX Spark、MacBook、Mac mini等设备完成验证。
📊 核心实体与商业数据
| 实体/指标 | 数据/详情 |
|---|---|
| 原发布时间 | 2026-08-12 |
| 发布方 | 蚂蚁百灵 |
| 模型名称 | Ling-3.0-tiny |
| 模型类型 | 轻量级混合推理MoE模型 |
| 总参数量 | 7.9B |
| 激活参数量 | 1.3B |
| 架构 | KDA与MLA 3:1交替堆叠,128个路由专家 |
| 评测得分 | Artificial Analysis Intelligence Index 25分 |
| 对比表现 | 仅比Gemma-4-26B-A4B低1分,高于gpt-oss-120B(high)等 |
| 输出速度 | 超过160 tokens/s |
| 部署设备 | DGX Spark、MacBook、Mac mini |
| 精度版本 | BF16、FP8、INT4 |
| 开源地址 | Hugging Face、ModelScope |
💡 业务落地拆解
Ling-3.0-tiny的发布标志着蚂蚁百灵在轻量级模型领域的重要布局。其核心价值在于通过MoE架构和混合注意力机制,在极低的激活参数下实现接近更大模型的性能,从而大幅降低本地部署的算力门槛。
1. 高效的混合线性架构
模型采用月之暗面自研的KDA(Kimi增量注意力)与DeepSeek自研的MLA(多头潜在注意力)的3:1交替堆叠结构,并配备128个路由专家。每个Token仅激活8个路由专家和1个共享专家,在长上下文建模、参数效率和计算成本之间取得平衡。
2. 原生混合推理与智能体能力
Ling-3.0-tiny支持快速响应与多步推理,可通过enable_thinking参数灵活切换。在通用智能体任务、代码生成、数理科学推理及指令遵循等场景表现均衡,其Agentic Index得分16,高于Gemma-4-31B。
3. 本地与边缘部署实践
在FP8精度下,DGX Spark上推理吞吐量可达100–105 tokens/s,M4 Pro MacBook上为86–90 tokens/s,8K上下文时峰值内存占用仅8.34GiB。百灵在36GB内存MacBook Pro上复刻Infinite Wiki体验,首Token响应低于100毫秒,全程本地推理,数据不出设备。
🚀 对企业AI化的启示
Ling-3.0-tiny的推出为企业AI化提供了新的思路:
- 降低部署成本:1.3B激活参数意味着更低的推理资源消耗,企业无需大规模算力集群即可运行高效模型。
- 数据隐私可控:本地部署确保敏感数据不离开企业环境,满足合规要求。
- 灵活部署选项:三个精度版本覆盖从工作站到个人电脑的多种设备,适配不同业务场景。
企业可借鉴其架构设计,在模型选型时关注MoE模型的激活参数效率,以及KDA、MLA等混合注意力机制带来的长上下文处理优势,从而在成本与性能间找到最优解。
【官方原文链接】点击访问首发地址
常见问题
相关文章
Anthropic发布Fable 5.2与Mythos 5.2:30小时形式化证明费马大定理,AI大模型能力边界再突破
Anthropic于2026年11月10日发布Fable 5.2和Mythos 5.2大模型。Fable 5.2在30小时内由1000个智能体协同完成费马大定理的形式化证明,并解决物理学难题;Mythos 5.2在网络安全漏洞挖掘上表现突出。模型定价为输入$8/百万tokens,输出$40/百万tokens,速度提升30%,并推出Fast Mode加速2.5倍。Anthropic核心代码库超90%合并代码由Claude编写。
2026年11月10日2026Q3中国GEO服务商市场规模达22亿元:竞争转向综合服务能力
易观分析数据显示,2026年第三季度中国GEO服务商市场规模约22亿元,前三季度累计约57亿元。市场增长源于企业对AI搜索营销的认知深化,竞争从早期服务复制转向技术研发、内容治理、效果监测等综合能力。中国商务广告协会发布GEO团体标准,推动行业规范化。服务商需构建从需求诊断到持续优化的完整链条,合规与内容可信度成为关键评估维度。
2026年11月10日Anthropic发布Fable 5.2与Mythos 5.2:性能跃升与成本悖论下的GEO启示
Anthropic于2026年11月10日发布Fable 5.2和Mythos 5.2大模型,两者同底座但安全权限不同。Fable 5.2在长任务(如机器人训练)上性能大幅提升,RoboDojo Sim得分从27.6%跃至64.9%,token价格下降20%,但独立测评显示平均任务成本翻倍,因模型输出token量激增。行业价格战背景下,Anthropic未解释降价原因,竞品OpenAI同期降价。该案例对企业AI化启示在于:需平衡性能与成本,关注长任务自动化潜力及GEO策略中的实体占位。
2026年11月10日