听到 Groq 下一代芯片计划从 SRAM 转向 DRAM,很多人的第一反应是:这不是把自己最快的看家本领给换掉吗?
根据韩媒 ZDNET Korea 的报道,英伟达旗下的 Groq 正计划在下一代 LPU(语言处理单元,专门用来做 AI 推理加速的芯片)上引入基于 TSV(硅通孔,一种在芯片内部垂直打孔、实现上下层电路连接的技术)的 3D 堆叠 DRAM 方案。IT之家、cnBeta.COM 等中国科技媒体随后做了转引和补充。现役这一代 Groq LPU 用的是大容量 SRAM(静态随机存储器,速度极快但容量难做大),单颗芯片 500MB,内存带宽 150TB/s。整个 LPX 机架塞了 256 颗这样的芯片,合计 128GB SRAM、640TB/s 扩展带宽。更早前 cnBeta.COM 披露的早期测试里,这套机架跟英伟达的 NVL72 服务器协同工作,跑出了每秒 3400 个 Token 的推理速度,一度刷新性能纪录。