|
|
|
www.design-reuse-china.com |
|

端侧人工智能爆发,Arm打造新一代计算平台
laoyaoba.com, Jun. 20, 2024 –
从GPT-3.5到GPT-4.0,从多模态交互到插件支持,从闭源到开源,AI任务处理正加速从云侧向端侧迁移,生成式AI正逐步成为端侧设备上的人机交互界面。然而,随着人们加大力度在终端部署大模型,必将面临计算瓶颈、功耗及软件生态等多重挑战。5月底,Arm推出新一代面向智能手机、PC等终端的计算平台––Arm终端计算子系统(CSS),其中包含Arm当前最高性能的Cortex-X925 CPU、Immortalis-G925 GPU等,并为开发人员量身定制的Kleidi软件库,给终端AI的发展注入创新活力。在近日举办的Arm技术媒体日上,Arm就相关产品的技术细节、生态合作等进行了深入的分享。Arm 终端事业部智能手机市场高级总监 Steve Raphael表示,AI时代正加速发展,复杂性随之不断提高,计算需求呈指数级增长。IC设计工程师、OEM 厂商和软件开发者需要更好的灵活性和更多的选择,确保各类消费市场中的设备都能够经受考验。Arm 持续将产品及解决方案迭代更新,善用最新的工艺节点,并提供可为实现端侧AI奠定基础的平台。
终端CSS:全新优化AI体验
Arm此前已面向包括数据中心等在内的基础设施领域推出了Neoverse计算子系统(CSS),并计划于2025年交付首款汽车应用的CSS,此次则又将其引入了终端领域当中。据悉,Arm终端CSS是迄今速度最快的Arm计算平台,囊括了最新的Armv9.2 Cortex CPU集群和Immortalis与Mali GPU、CoreLink 互联系统 IP,以及基于3nm工艺生产就绪的 CPU 和 GPU 物理实现。新的KleidiAI和KleidiCV库可为端侧人工智能和计算机视觉工作负载提供支持。Arm Performance Studio提供全方位工具环境,帮助开发者简化开发流程,发挥Arm终端CSS的潜力。可以说,Arm终端CSS为用户提供了生产芯片的最快途径。
2021年Arm首次推出全面计算解决方案(TCS)。TCS希望从系统化、协同化的视角打造SoC,包括开发用于总线互联、系统级缓存(SLC)和内存管理单元(MMU)的第三方系统IP,考虑到将所有组件集成至CPU和GPU集群等环节中可能遇到的问题,从而大幅降低芯片设计的复杂性。Arm 终端事业部产品管理总监 Steve Hopper介绍,终端CSS则在TCS的基础上更进一步,首次在终端领域以CPU和GPU优化的设计形式提供物理实现的解决方案。



Back