www.design-reuse-china.com
搜索,选择,比较,与提供商进行安全高效的联系
Design & Reuse We Chat
D&R中国官方微信公众号,
关注获取最新IP SOC业界资讯

高能效AI:芯片行业如何让每瓦电力释放更多智能

High-efficiency AI: more intelligence per watt

mp.weixin.qq.com – Nov. 09, 2026 –

AI 算力的增长速度远超支撑其运行的能源系统。电网、数据中心容量和冷却系统,都无法跟上 AI 每年增长 4 至 5 倍的扩张速度。

近日,来自微软、三星、加州大学洛杉矶分校(UCLA)和 MatX 的行业领袖探讨了能源供给与算力增长失衡将如何影响 AI 芯片、系统和工具的设计。在新思科技 Converge 2026 大会上,与会嘉宾指出,如何让每一瓦电力产生更多有用的智能,已成为一项贯穿整个技术栈的系统性挑战。

新思科技首席产品开发官、此次圆桌讨论主持人 Shankar Krishnamoorthy 表示:"整个 AI 技术栈都建立在能源这一基石之上,而能源恰恰是其中发展最慢的一层。"

围绕统一的能源预算开展协同设计

纵观整个行业,越来越多的企业开始以能源而非单纯的速度作为设计起点。

为了将功耗控制在切实可行的范围内,芯片、电路板和软件已无法再各自独立地设计和优化。相反,从软件和模型,到机架和芯片,整个 AI 技术栈都必须在固定的能源预算内协同运行。

微软 AI 芯片工程副总裁 Artour Levin 表示:"我非常认同深度协同设计和垂直整合。我们不能只做局部优化,而要从全局出发,贯通芯片到软件的各个层面进行优化。"

专注于开发 AI 工作负载专用硬件的 MatX 同样采取了这种全局化的方法。

MatX 首席开发官 Avinash Mani 表示:"我们认为,仅仅打造出色的芯片还不够,我们正在自行设计机箱、系统和机架。"

从电力进入机架,到供电、转换和分配,再到最终送达芯片,MatX 的工程师致力于减少每个环节的能量损耗。

Avinash Mani 表示:"在电力输入机架后,由于经历了这些转换环节,会损失 15% 至 25% 的电能。要打造电力浪费最少的系统,就必须对整个机架进行协同设计。"

能源效率也在重塑 AI 模型本身。

在 UCLA,研究人员正在开发一种分层记忆 Transformer 架构,以提高大语言模型(LLM)的能效。该方法借鉴人类的短期记忆和长期记忆机制,可将模型容量提升 20 倍,同时将能耗降低 5 至 10 倍。

UCLA Volgenau 工程卓越讲席教授 Jason Cong 表示:"如果能同时在模型、架构和芯片实现层面进行创新,就能获得最显著的投资回报。"

降低数据移动带来的能耗

系统需要移动的数据越少,消耗的能源就越少。硬件团队正通过提高互连密度并尽可能缩短传输距离来应对这一挑战。

以三星晶圆代工为例,工程师采用混合铜键合和高带宽内存(HBM)技术,在提高带宽的同时降低单个信号的电容。两项技术相结合,可减少每个比特在逻辑单元与内存之间移动所需的能量。

三星晶圆代工设计技术副总裁 Hyung-Ock Kim 表示:"从集成角度看,关键在于如何提高带宽,混合铜键合可以实现更小的互连间距,对提高信号传输速度非常有帮助。"

这种以物理规律为先的设计理念同样适用于晶体管层面。Kim 介绍了三星设计技术协同优化(DTCO)团队如何调整器件尺寸,在最大限度提升性能的同时尽量减少无效功耗。

他解释道:"对于非关键路径,我们采用尺寸最小的器件;对于关键路径,则采用较大的器件。"

选择性器件尺寸优化与更高密度的互连和 HBM 封装相结合,可缩短信号传输所需的连线、减小驱动器,从而让每一焦耳能量完成更多工作。

UCLA Volgenau 工程卓越讲席教授 Jason Cong 的团队也在探索如何改变工作负载本身。在标准的 Transformer 大语言模型中,大部分能量都消耗在矩阵乘法及相关的数据移动上。UCLA 团队近期开发的 Lang-LM 原型将大部分语言模型推理转化为存储在高密度片上内存中的查表操作,从而绕过乘法器。

Jason Cong 教授解释说,这实际上是一个几乎无需计算、仅靠内存查表即可运行的大语言模型。该方法在 FPGA 硬件上可将速度提升数倍,并将能效提高 4 至 6 倍。

在设计流程中运用 AI

AI 工作负载正在推高功耗预算,而 AI 驱动的 EDA 工具也在帮助降低功耗。

Jason Cong 教授总结了 AI 在 EDA 中可直接提升效率的三类作用:快速预测功耗、性能和面积(PPA);搜索并"逆向设计"更优的架构和 RTL;以及构建智能体式流程,让 AI 借助内嵌的领域知识来编排现有工具。

这些能力相结合,使工程师能够更早、更系统地探索能耗与性能之间的权衡。

三星晶圆代工设计技术副总裁 Hyung-Ock Kim 表示,AI 驱动的工具可以提供大量选项和参数供我们探索,从而优化 PPA。他特别提到新思科技 Fusion Compiler 与新思科技 DSO.ai 的结合,他表示:"AI 可以通过调整参数并找出理想方案,显著缩短运行时间。"

随着智能体 AI 解决方案逐步成为现实,微软 AI 芯片工程副总裁 Artour Levin 表示,业界对其潜力的探索才刚刚起步。

他说:"AI 在芯片开发中的应用仍处于非常早期的阶段,坦率地说,我们别无选择。如果不采用 AI 这样的技术,就无法实现规模化发展。传统方法无法让我们以足够快的速度推进。"

新思科技首席产品开发官 Shankar Krishnamoorthy 补充道:"我还记得,就在一年前,我们还得不断鼓励、推动甚至说服工程师尝试 AI。一年后的今天,他们已经用得飞快,以至于我们反而要问:‘你们都检查过了吗?’"

全栈优化

随着 AI 算力的扩展速度超过能源基础设施,高效用电已成为关键的设计考量。然而,仅仅提高各个组件的能效,哪怕精确到每一毫瓦,也远远不够。

企业必须构建以全栈能效为目标的工作流程,将模型、芯片、系统和软件贯通起来,把它们视为一个统一的集成工程问题。

微软 AI 芯片工程副总裁 Artour Levin 表示:"目前,我们还没有一个足够完善的平台,能够将 AI 作为分布式系统进行评估。而在此基础上进一步优化软件,则让问题变得更加复杂。"

AI 性能的下一次飞跃,不仅取决于更强大的芯片,也取决于能否找到更好的方法,在固定的能源预算内对整个技术栈进行设计、建模和优化。

点击此处阅读更多

 Back

业务合作

添加产品

供应商免费录入产品信息

点击此处了解更多关于D&R的隐私政策

© 2026 Design And Reuse

版权所有

本网站的任何部分未经Design&Reuse许可,
不得复制,重发, 转载或以其他方式使用。