三波知识百科

展开菜单

AI实际性能仅20%!微软高管炮轰存储厂:建再多厂也没用

AI实际性能仅20%!微软高管炮轰存储厂:建再多厂也没用
     快科技9月14日消息,据报道,微软Azure硬件系统与基础设施总裁Rani Borkar近日表示,单纯增加存储芯片产能无法解决AI基础设施的瓶颈。她批评道:“存储不应被视为供应或组件问题,本质上是系统问题。”     Borkar指出,AI推理模型越来越大、对话上下文越来越长,存储与电力正成为比计算芯片更难绕开的硬限制。许多AI系统由多层架构组成,受限于数据传输延迟与带宽限制,系统往往仅能发挥约20%的实际性能。    她提出的解决路径是“从芯片到系统”的跨层协同设...