华为昇腾AI芯片实现训推一致性Logdiff为0，性能提升20%-60%
网通社小助理
2026-08-06 16:36
8月6日，华为计算官方宣布，昇腾基于AscendC编程语言提供完整的训推一致算子集，在Qwen3-30BMoE模型测试中实现推理与训练过程的数值一致性（Logdiff为0）。昇腾通过FA算子优化，在Eager模式下获得20%-60%的性能提升。 昇腾针对Rollout引擎与训练引擎间的数值不一致问题，通过统一注意力语义、锁定reduce累加序、对齐在线Softmax分块策略及对齐关键路径精度四项优化，确保训练与推理在数值路径上的一致性。相关基础设施已开源，并将上线“训推一致问题识别Skill”，用于排查残余logdiff并定位问题根源。
以上内容由AI创作，不代表网通社立场。如有问题请联系feedback@news18a.com
分享到
-
微信、QQ、支付宝扫一扫手机阅读更方便。
-
-
热门资讯
-
1小时前
-
1小时前
-
科技讲堂：领克07GT实测，京西智行MagneRide®以毫秒级响应“飞坡不跳”
近期领克07GT的一项极限测试中得到了直观印证。在飞坡挑战中，领克07GT以75公里时速，高速冲过坡度角为3度、坡高35厘米的测试...
1小时前
-
言隐
3小时前
言隐
-
言隐
5小时前
最新资讯
相关资讯
请扫码下载网通社客户端
iPhone/iPad客户端
Andriod客户端
手机版 网通社汽车
- 经营许可证：京B-220170585号
- 京ICP备13031706号-2
- 广播电视节目制作许可证06725号
- 京公网安备 11010502058773号
- Copyright© 2012-2026聚众网通(北京)科技有限公司版权所有 未经许可不得转载
