学术研究 学术研究
儒学动态
专家观点
项目成果
研讨动态
分中心建设 分中心建设
分中心活动
传播普及 传播普及
交流互鉴 交流互鉴
尼山金年会|金字招牌|官网首页·文明论坛
机关党建 机关党建
廉洁文化建设
金年会|金字招牌|官网首页·文明建设
学术期刊 学术期刊
《孔子研究》
《中国儒学年鉴》
儒学名家 儒学名家

【b站】可训练万亿参数大模型 国内运营商最大单集群智算中心运营

来源:金年会|金字招牌|官网首页  更新时间:2024-09-20 06:03:59

 

由中国移动承建的可训国内运营商最大单集群智算中心8月30日在哈尔滨正式运营,该智算中心具有单集群算力规模最大、练万国产化网络设备组网规模最大等特点。亿参运营运营b站

单集群智算中心把所有AI加速卡打造成1个集群,数大商最用以支持千万亿级参数的模型知网大模型进行训练。这个集群智算中心通过先进的国内优酷智算网络技术把上万块GPU芯片像“积木”一样拼接在一起,大幅提升GPU节点间的大单通信效率,将数据训练完成时间缩短20%,集群从而形成超级算力集群。智算中心这个单集群智算中心共有超过1.8万张AI加速卡,可训运算能力达到每秒690亿亿次浮点运算,练万能满足万亿参数的亿参运营运营大模型训练要求。

中国移动黑龙江公司计划建设部项目经理 闫文:它相当于300多万台高性能个人计算机每秒的计算能力,单集群相当于编队,模型减少互相传输时间,国内在编队内就把整个计算完成了。