华为昇腾完成小红书dots3-notepreview大模型全量适配
8月14日,小红书发布dots3-notepreview开源大模型,该模型总参数量为280B,激活参数量为16B,支持文本、视觉、语音全模态感知理解。同日,华为宣布昇腾Atlas800A3和Atlas900A3SuperPoD超节点已完成该模型的全量适配,并基于vLLM-Ascend开源推理引擎提供完整部署与推理能力。适配工作在模型发布当天完成,关键优化包括全模态端到端适配、框架深度特性优化及MTP投机推理原生支持,提升了推理吞吐与生成效率,满足高并发在线业务的低时延需求。
评论0
热门资讯
最新资讯
相关资讯
请扫码下载网通社客户端
iPhone/iPad客户端
Andriod客户端
手机版 网通社汽车
- 经营许可证:京B-220170585号
- 京ICP备13031706号-2
- 广播电视节目制作许可证06725号
- 京公网安备 11010502058773号
- Copyright© 2012-2026聚众网通(北京)科技有限公司版权所有 未经许可不得转载


购车观测局
比价能手
车型比价实验室
选车参谋
