支持大语言模型的下一代AIoT系统该怎么做设计验证？

搜索最新SoC解决方案
关于汽车电子...物联网...安全...音频...视频

ChatGPT成为今年现象级的热门应用后，一个说法也在行业里悄然流传开––1万枚英伟达A100芯片，是做好大模型训练的入门级装备。一时之间"洛阳纸贵"，AI芯片成为了大家眼中的"屠龙宝刀"。我们看到，大量抓住机遇的人，不仅投身大模型产品，还有一部分负责给"掘金人"卖铲子。

www.eefocus.com/, Jul. 17, 2023 – 

" 那么问题来了：

支持大语言模型的AIoT系统，

设计难度在哪？

该怎么做设计验证？

藏在"屠龙刀"里面的秘籍究竟是什么？"

过去的AIoT，通常指的都是带低算力的端侧小芯片，但是随着类似ChatGPT的大语言模型全面得到应用，在端侧AIoT芯片上部署需要几十到几百TOPS算力的LLM大模型也成为新的需求。但是新一代AIoT芯片要提高十倍到百倍算力，这不仅仅是堆砌算力那么简单，需要从性能、互连、带宽、接口进行全面的系统级规划和设计。

新一代的AIoT芯片已经不是一个独立的芯片个体，目前市场上的AIoT芯片几乎都结合了CPU、GPU、FPGA和DSP等核心零部件。这就必然需要支持系统级芯片开发的EDA流程。

实际上，芯片设计厂商也意识到了这个问题。当制程工艺逼近极限，但人们对电子产品性能的追求还在不断攀升时，压力很快就传导到了上游的芯片厂商。借助面向系统级的创新，提升芯片的终极性能表现，也成为大家的共识。

 Back