用GDDR助力AI芯片？Rambus做好准备！

搜索最新SoC解决方案
关于汽车电子...物联网...安全...音频...视频

纵观当前的IT产业发展现状我们可以看到，市场对于数据的需求是不断上涨的。哪怕是在一些已经增长比较放缓的市场，对数据的需求依旧处于上升的趋势。尤其是在人工智能的推动下，市场对数据的需求更是水涨船高。

www.semiinsights.com/, May. 30, 2023 – 

"类似ChatGPT等人工智能相关的应用程序的增长速度以及对数据的需求更是非常庞大，光是ChatGPT-3就以1750 亿个参数进行训练的。这些人工智能应用的快速发展，也对处理器及带宽提出了更高的要求和标准。"Rambus IP 核产品营销高级总监 Frank Ferro说。

在这种需求的推动下，越来越多的企业开始专注于开发自己个性化、定制化的处理器产品，以更好地满足神经网络以及专属应用的需求。毫无疑问，在这样的推动下，算力的增长非常显著，但是带宽上的进步却无法改善，这就造成两者间的不匹配。换而言之，在现有高算力的基础之上，很多的GPU资源其实并没有得到充分的占用和利用。

尤其是在AI推理市场，这个现象尤为明显。

据Frank Ferro介绍，相较于训练层，在人工智能的推理层，对算力的需求会有大幅下降，但变得比较敏感的因素是成本和功耗。因为绝大多数推理的场景，都是用在终端设备、消费者电子产品或者边缘设备。

同时，我们无法回避的一个趋势就是AI的推理越来越多地向边缘设备上进行集成和转移。在这种情况下，我们就会把已经训练过的系统实现更快的处理方式，处理速度的提高是非常大的迁移到边缘端的优势。正是在这个变化的趋势过程中，GDDR6也开始发挥它本身的作用。

所谓GDDR，据维基百科介绍，是Graphics Double Data Rate的缩写，此为显存的一种，GDDR是为了设计高端显卡而特别设计的高性能DDR存储器规格，其有专属的工作频率、时脉、电压，因此与市面上标准的DDR存储器有所差异，与普通DDR内存不同且不能共享。一般它比主内存中使用的普通DDR存储器时钟频率更高，发热量更小，所以更适合搭配高端显示芯片。

 Back