蚂蚁 LLaDA2.2-flash 发布:103B 参数扩散语言模型,面向 Agent 应用
蚂蚁集团旗下百灵团队(inclusionAI)近日在 Hugging Face 发布了 LLaDA2.2-flash——一款面向智能体(Agent)应用的扩散语言模型。该模型属于 LLaDA2 系列,采用混合专家(MoE)架构,非嵌入参数规模 100B,总参数 103B。
核心参数
| 项目 | 数值 |
|---|---|
| 架构 | MoE(混合专家) |
| 非嵌入参数 | 100B |
| 总参数 | 103B |
| 定位 | 面向 Agent 应用的扩散语言模型 |
| 开源平台 | Hugging Face |
扩散语言模型是什么
传统大语言模型(GPT/LLaMA 系列)采用自回归方式生成文本——逐词预测下一个 token。扩散语言模型则借鉴图像生成的扩散思路:先给文本加噪,再逐步去噪还原,最终生成目标文本。理论上可以在生成过程中引入更多控制和引导信号。
蚂蚁选择这条技术路线面向 Agent 场景,意味着扩散模型在可控生成和多步推理上可能有独特优势——这跟 GPT 系的自回归方案走的是不同路径。
面向 Agent 场景意味着什么
Agent 应用对模型的核心要求与传统对话不同:
- 多步推理可控:Agent 需要拆解任务、分步执行,模型要在每一步保持方向不跑偏
- 工具调用准确:生成结构化调用(JSON/API)的格式准确率要高
- 上下文窗口长:Agent 对话链路长,模型要记住前面的决策
- 延迟与成本可控:MoE 架构可以让推理时只激活部分专家,降低实际计算量
怎么看
LLaDA2.2-flash 的发布说明大模型赛道不止「更大更强」一条路。蚂蚁选扩散模型+MoE 架构组合面向 Agent 场景,是在差异化技术路线上押注。最终能否跑赢自回归模型在 Agent 任务上的表现,还需要社区实测数据验证。但开源发布本身降低了研究者和开发者的尝试门槛——Hugging Face 上可以直接拉模型试。
后续我们会持续追踪 LLaDA 系列的社区反馈和实测数据,欢迎收藏 AI智库。
©️版权声明:若无特殊声明,本站所有文章版权均归AI智库原创和所有,未经许可,任何个人、媒体、网站、团体不得转载、抄袭或以其他方式复制发表本站内容,或在非我站所属的服务器上建立镜像。否则,我站将依法保留追究相关法律责任的权利。
辽公网安备21021102001760号