三波知识百科

展开菜单

国内首个!阿里云真武超节点Day0适配Kimi K3:单卡吞吐提升1.8倍

国内首个!阿里云真武超节点Day0适配Kimi K3:单卡吞吐提升1.8倍
快科技7月28日消息,阿里云宣布,真武M890超节点实例已Day0成功适配Kimi K3,成为国内首个跑通近3万亿参数模型的超节点。跑通Kimi K3这样2.8万亿参数的模型,需要将参数分散到几十甚至上百张高速互联的GPU卡上。普通AI集群因通信带宽局限,无法满足高吞吐、低延迟、高并发的需求。国内首个!阿里云真武超节点Day0适配Kimi K3:单卡吞吐提升1.8倍真武超节点的设计正是为了解决这一瓶颈。其核心芯片真武M890采用自研并行计算架构,内置144GB显存。磐久AL1...