10 月 16 日 IT 之家消息,蚂蚁百灵昨日宣布开源 Ling-3.1-flash 模型,总参数约 560B,每个 Token 激活约 25B,最高支持 1M 上下文,开源链接已发布于 Hugging Face 与 ModelScope。
针对本地部署,团队对 routed experts 采用 MXFP4 量化、dense 层保持 block-FP8,权重占用从约 534GB 降至 292GB;在对应的 Hopper GPU 测试配置中,服务部署由 8 卡降至 4 卡。
模型提供长上下文并行推理方案(PCP / DCP),工具调用加强了对 JSON Schema 的支持。在平均输入约 25.47K Token、输出约 224 Token、缓存命中率 76% 的模拟生产请求中,8 卡 Hopper 配置下平均首 Token 时间为 604 毫秒,相邻输出 Token 平均间隔 3.28 毫秒。
目前 Ling-3.1-flash 提供限时 2.5 折优惠,OpenRouter 输入 0.075 美元、输出 0.225 美元、缓存读取 0.015 美元;Ling Studio 输入 0.5 元、输出 1.5 元、缓存读取 0.1 元。
