IT之家·· 4 天前AI 评分60
蚂蚁百灵开源 Ling-3.1-flash 模型,最高支持 1M 上下文
蚂蚁百灵开源 Ling-3.1-flash AI 模型,最高支持 1M 上下文
AI 导读
蚂蚁百灵昨日宣布开源 Ling-3.1-flash 模型,总参数约 560B、每个 Token 激活约 25B,最高支持 1M 上下文。团队采用量化方案将权重占用从约 534GB 降至 292GB;在对应 Hopper GPU 测试中,服务部署由 8 卡降至 4 卡。测试还包括长资料请求的首 Token 时间与输出间隔,以及 4 卡吞吐约 1.36 QPS;在线体验目前提供限时 2.5 折优惠。
来源:IT之家 · ithome.com