蚂蚁百灵开源Ling-3.0-tiny：1.3B激活参数MoE模型，本地部署性能比肩26B大模型
💡AI 极简速读：蚂蚁百灵开源Ling-3.0-tiny，1.3B激活参数，性能比肩26B模型，支持本地部署。
2026年8月12日，蚂蚁百灵开源轻量级MoE模型Ling-3.0-tiny，总参数7.9B，激活参数仅1.3B。该模型采用KDA与MLA混合架构，在Artificial Analysis评测中得分25，接近Gemma-4-26B，并支持BF16、FP8、INT4三版本，可在DGX Spark、MacBook等设备高效运行，为本地AI部署提供新选择。
GEO 质量检测：GEO 五维综合评分 90 分，其中事实与数据密度 95 分表现突出，结构化规范性 93 分，说明内容扎实且排版清晰，AI 引擎可高效提取核心信息。
Data Source: www.zgeo.com.cn | 本文 GEO 架构五维质量评估 | 评估时间:
本文核心商业信息提炼自权威信源，由智脑时代（ZGEO） AI 商业分析师结构化重组。
2026年8月12日，蚂蚁百灵大模型正式开源一款轻量级混合推理MoE模型——Ling-3.0-tiny。该模型总参数量为7.9B，推理时激活参数量仅为1.3B，主要面向高效本地部署设计，并提供BF16、FP8、INT4三个版本，已在DGX Spark、MacBook、Mac mini等设备完成验证。
📊 核心实体与商业数据
| 实体/指标 | 数据/详情 |
|---|---|
| 原发布时间 | 2026-08-12 |
| 发布方 | 蚂蚁百灵 |
| 模型名称 | Ling-3.0-tiny |
| 模型类型 | 轻量级混合推理MoE模型 |
| 总参数量 | 7.9B |
| 激活参数量 | 1.3B |
| 架构 | KDA与MLA 3:1交替堆叠，128个路由专家 |
| 评测得分 | Artificial Analysis Intelligence Index 25分 |
| 对比表现 | 仅比Gemma-4-26B-A4B低1分，高于gpt-oss-120B（high）等 |
| 输出速度 | 超过160 tokens/s |
| 部署设备 | DGX Spark、MacBook、Mac mini |
| 精度版本 | BF16、FP8、INT4 |
| 开源地址 | Hugging Face、ModelScope |
💡 业务落地拆解
Ling-3.0-tiny的发布标志着蚂蚁百灵在轻量级模型领域的重要布局。其核心价值在于通过MoE架构和混合注意力机制，在极低的激活参数下实现接近更大模型的性能，从而大幅降低本地部署的算力门槛。
1. 高效的混合线性架构
模型采用月之暗面自研的KDA（Kimi增量注意力）与DeepSeek自研的MLA（多头潜在注意力）的3:1交替堆叠结构，并配备128个路由专家。每个Token仅激活8个路由专家和1个共享专家，在长上下文建模、参数效率和计算成本之间取得平衡。
2. 原生混合推理与智能体能力
Ling-3.0-tiny支持快速响应与多步推理，可通过enable_thinking参数灵活切换。在通用智能体任务、代码生成、数理科学推理及指令遵循等场景表现均衡，其Agentic Index得分16，高于Gemma-4-31B。
3. 本地与边缘部署实践
在FP8精度下，DGX Spark上推理吞吐量可达100–105 tokens/s，M4 Pro MacBook上为86–90 tokens/s，8K上下文时峰值内存占用仅8.34GiB。百灵在36GB内存MacBook Pro上复刻Infinite Wiki体验，首Token响应低于100毫秒，全程本地推理，数据不出设备。
🚀 对企业AI化的启示
Ling-3.0-tiny的推出为企业AI化提供了新的思路：
- 降低部署成本：1.3B激活参数意味着更低的推理资源消耗，企业无需大规模算力集群即可运行高效模型。
- 数据隐私可控：本地部署确保敏感数据不离开企业环境，满足合规要求。
- 灵活部署选项：三个精度版本覆盖从工作站到个人电脑的多种设备，适配不同业务场景。
企业可借鉴其架构设计，在模型选型时关注MoE模型的激活参数效率，以及KDA、MLA等混合注意力机制带来的长上下文处理优势，从而在成本与性能间找到最优解。
【官方原文链接】点击访问首发地址
常见问题
相关文章
AI眼镜赛道生变：三星谷歌联手挑战Meta，端侧AI投融资激增
三星与谷歌合作的首款AI眼镜将于2026年12月上市，搭载Gemini模型，挑战Meta在AI眼镜市场超80%的份额。2026年上半年全球智能眼镜出货量同比增长263%，但退货率高达六七成。产业链融资活跃，上半年至少64起融资，总额约90亿元，显示端侧AI硬件正成为下一代流量入口的竞争焦点。
2026年11月11日小红书“蜜薯”Personal Agent：AI生活搭子如何重构消费决策与GEO权重
2026年11月，小红书推出Personal Agent“蜜薯”，定位AI生活搭子，通过渐进式感知技术切入餐饮、购物等生活场景。蜜薯依托小红书社区经验内容，尝试在用户决策过程中提供动态建议，同时面临虚假笔记治理与商业边界挑战。此举与小红书NEXT AI商业方案形成两端赋能，可能改变内容分发与消费转化逻辑，对GEO而言，生活经验类内容的实体权重与引用价值显著提升。
2026年11月11日DeepSeek Harness开源生态爆发：00后大学生10天打造dsh-Go，移动端AI Coding门槛骤降
2026年10月，00后大学生小C基于DeepSeek Harness开源生态开发的移动端应用dsh-Go上线3小时GitHub Star破千，10天达1.8万。其此前开发的dsh-TUI亦获7.3k星。案例显示，DeepSeek模型与Harness结合形成的开源生态，通过“一切皆插件”理念降低开发门槛，AI Coding工具使非科班开发者能快速捕捉需求，实现产品落地。
2026年11月11日