华为昇腾完成蚂蚁百灵Ling-3.0-flash模型0Day适配
8月6日,蚂蚁百灵开源新一代原生混合推理模型Ling-3.0-flash。同日,华为宣布昇腾已完成对该模型的0Day适配,并首次引入CANNPyPTO算子编程框架,以缩短复杂融合算子交付周期,提升算子接入与推理框架性能调优效率。本次适配全面兼容昇腾A2、A3系列产品,并提供官方标准化部署方案,支持开发者通过官方镜像快速启动推理服务。CANNPyPTO基于PTOISA构建,允许开发者通过Tensor级API定义计算逻辑,由框架自动完成分片调度、数据搬运和代码生成。此外,CANNBotPyPTOAgent构建了多智能体框架,将算子开发分为七个阶段,由不同子智能体协同执行,通过统一编排器和记忆机制实现信息交换与上下文传递,从自然语言算子需求输入到产出精度达标、性能优化的可上板算子,全程无需人工介入。
评论0
最新资讯
相关资讯
请扫码下载网通社客户端
iPhone/iPad客户端
Andriod客户端
手机版 网通社汽车
- 经营许可证:京B-220170585号
- 京ICP备13031706号-2
- 广播电视节目制作许可证06725号
- 京公网安备 11010502058773号
- Copyright© 2012-2026聚众网通(北京)科技有限公司版权所有 未经许可不得转载


布尔兰
奇莉


