蚂蚁百灵Ling-3.1-flash模型开源:总参数约560B

PChome | 编辑: 邸天宇 2026-10-16 10:11:39

PChome 10月16日消息,蚂蚁百灵宣布正式开源Ling-3.1-flash,权重同步上线Hugging Face与ModelScope,开发者可拉到自有算力环境里跑业务。

PChome 10月16日消息,蚂蚁百灵宣布正式开源Ling-3.1-flash,权重同步上线Hugging Face与ModelScope,开发者可拉到自有算力环境里跑业务。

这次最显眼的数字是参数规模:总参约560B,但每个Token只激活约25B,上下文上限1M。 架构上走的是稀疏MoE+混合线性注意力路线,512个路由专家每步挑8个,再加1个共享专家——好处是大模型容量留住了,单步计算量却压得不小。

真正让企业侧感兴趣的是部署成本。官方对routed experts做MXFP4量化、dense层保留block-FP8,权重占用从约534GB降到292GB;在Hopper GPU测试配置里,跑起服务从8卡缩到4卡。 长上下文还配了PCP/DCP并行推理,工具调用补了JSON Schema支持,明显是冲着Agent和私有化部署去的。

性能面,Artificial Analysis给到智能指数41、输出约210 token/s,混合调用价约0.19美元/百万 token。 4卡吞吐测试里做到1.36 QPS,首Token P50小于3 秒。 场景上不止聊天,官方把办公资料整理、医疗沟通、旧代码改功能、React Native页面生成都列进了落地范围,Design Arena开放权重榜里数据可视化、移动应用、3D、游戏方向都进了前三。

说明:所有图文均来自网络,版权归原作者所有,如果侵犯您的权益,请联系我们删除。

每日精选

首页 手机 数码相机 笔记本 游戏 DIY硬件 硬件外设 办公中心 数字家电 平板电脑