新闻资讯

华为昇腾AI芯片算力训练效率优于英伟达A100

   时间:2024/6/20      阅读:172    关键词:芯片

 

2024世界半导体大会暨南京国际半导体博览会的分论坛上,江苏鲲鹏·昇腾生态创新中心首席运营官王陶透露,昇腾集群是国内唯一已完成训练千亿参数大模型的自主产品

王陶表示:中国大模型里面,有近50%选择了昇腾技术路线。

 华为昇腾AI芯片算力训练效率优于英伟达A100

与英伟达A100相比,昇腾 AI 芯片在训练效率层面最高达到1.1倍。

尤其在训练 LlamaBloomGPT等模型方面,昇腾 AI 算力训练效率优于英伟达A100,甚至10倍领先其他国产友商。

华为透露,其智算集群使用率超过90%。其中在南京,昇腾算力共有140P,使用率93%;武汉拥有200P,使用率95%+;深圳的算力使用率超过99%;成都 98%;杭州 80%;沈阳 98%

而目前,包括腾讯、百度在内的中国科技巨头以及科大讯飞等领先的初创公司都购买了昇腾910B