要打破内存墙，可以将HBM与DDR5融合

搜索最新SoC解决方案
关于汽车电子...物联网...安全...音频...视频

新的内存方案出现，可将带宽再提升一个台阶。

www.qq.com/, Apr. 05, 2024 – 

在 2024 年，如果需要将数十个、数百个、数千个甚至数万个加速器拼接在一起，那么互连就是个大课题了。

英伟达（Nvidia） 拥有 NVLink 和 InfiniBand。Google 的 TPU 吊舱使用光电路开关 （OCS） 相互通信。AMD 拥有 Infinity Fabric，用于芯片到芯片、芯片到芯片以及即将推出的节点到节点流量。当然，还有好的老式以太网。

这里的诀窍不是构建足够大的网格，而是抵御与离包相关的大量性能损失和带宽瓶颈。它也没有做任何事情来解决这样一个事实，即所有这些 AI 处理所依赖的 HBM 内存都以固定的比例与计算相关联。

"这个行业正在使用Nvidia GPU作为世界上最昂贵的内存控制器，"Dave Lazovsky说，他的公司Celestial AI刚刚在USIT和许多其他风险投资巨头支持的C轮融资中获得了1.75亿美元，以将其光子织物商业化。

去年夏天，我们研究了Celestial的光子结构，其中包括一系列硅光子学互连器、中介层和小芯片，旨在将AI计算从内存中分解出来。不到一年后，他们正在与几家超大规模客户和一家大型处理器制造商合作，将其技术集成到他们的产品中。Lazovsky没有指名道姓。

但事实上，Celestial将AMD Ventures视为其支持者之一，其高级副总裁兼产品技术架构师Sam Naffziger在公告发布的同一天讨论了共同封装硅光子小芯片的可能性，这无疑引起了一些人的注意。话虽如此，AMD为光子学初创公司提供资金并不意味着我们将永远在Epyc CPU或Instinct GPU加速器中看到Celestial的小芯片。

 Back