為MCU最佳化AI

搜索最新SoC解决方案
关于汽车电子...物联网...安全...音频...视频

隨著對分散式和高性價比解決方案的需求不斷成長，人們開始著手將這些模型應用於運作功率更低的小型設備，例如基於MCU的低成本硬體平台…

www.eettaiwan.com, Sept. 22, 2025 – 

人工智慧(AI)已經徹底改變了眾多產業，這得益於它能夠分析大量資料、提取複雜模型並自主做出決策的能力。儘管AI具有諸多優勢，但迄今為止，大多數AI應用都是在高效能運算(HPC)平台上實現的，例如配備強大GPU的雲端伺服器或電腦。隨著對分散式和高性價比解決方案的需求不斷成長，人們開始著手將這些模型應用於運作功率更低的小型設備，例如基於微控制器(MCU)的低成本硬體平台。在MCU上直接執行AI模型的能力為物聯網(IoT)、汽車、工業、消費性、機器人、穿戴式裝置，以及所有必須最大限度降低能耗和成本的應用帶來了無限可能。如今，由於技術不斷進步，即使在沒有強大運算能力的硬體上也可以實現AI演算法。

MCU功耗和性能

MCU是整合到需要進行基本運算的硬體中的小型低功耗運算元件。它們使我們日常使用的數十億台設備(如家用電器和行動連接設備)實現智慧化，而無需依賴昂貴的硬體或可靠的網際網路連接，也不受頻寬和功耗的限制。MCU還有助於保護隱私，因為不會有任何資料離開設備。試想一下，智慧家電能夠適應我們的日常活動，智慧工業感測器能夠識別故障和正常運行之間的區別。

將運算能力從強大的集中式伺服器轉移到MCU是一種革命性的方法。MCU旨在整合到低功耗、資源有限的低成本設備中，其運算能力遠低於PC或伺服器。從硬體層面來說，MCU通常具有幾十或幾百KB的RAM、幾MHz到幾十MHz的時脈頻率和32位元(有時甚至是8位元)架構，因此其性能不如通常用於執行AI模型的傳統平台。

另一個需要考慮的方面是功耗。MCU通常用於電池供電系統，例如用於遠端控制的無線感測器網路或可攜式穿戴裝置，在這些應用中，每消耗1mA電流都可能縮短電池壽命，從而降低性能。因此，AI技術不僅必須針對運算能力進行優化，還必須針對能效進行優化。MCU的功耗因型號和具體應用而異。一般來說，低功耗MCU (例如Arm Cortex-M0+系列MCU)在睡眠模式下消耗的電流只有幾µA，運行時僅消耗幾mA。另一方面，功能更強大、更複雜的MCU (例如Arm Cortex-M4或M7系列MCU)在完全運行時可能消耗數十mA電流。在設計中考慮電源管理以優化功耗始終是很重要的，尤其是對於依賴電池的應用。

通常，在邊緣設備上實施AI應用的第一階段是使用資料集訓練模型，然後將訓練好的模型直接部署在設備上。用戶可下載公開的資料集或創建自己的自訂資料集。

在MCU上實現AI

片上AI (On-chip AI)整合可將智慧本地處理直接帶到邊緣(即靠近資料獲取點)，而無需將資訊發送到中央伺服器進行處理。在MCU上實現AI的一個優點是減少延遲：由於資料處理在本地進行，因此對操作的回應時間非常快。事實上，資料通訊是一個瓶頸，因為將資料上傳到雲端伺服器進行即時處理會產生延遲和隱私問題。具有AI功能的MCU可以即時處理從感測器獲得的複雜資料。

邊緣AI還可以提高能源效率。MCU旨在以最小的功耗運行，這對於可攜式或電池供電的應用至關重要。避免密集使用網路可減少向遠端伺服器傳輸大量資料的能耗。由於處理過程在本地進行，敏感性資料不必利用可能不安全的網路進行傳輸，因此還能提高資料的隱私性和安全性。

支援AI的MCU可以以相對較低的成本大規模部署，從而可以在各種設備和應用中實現智慧系統。在MCU上整合AI還可以實現高等級的個性化，因為設備可以從資料和使用者互動中學習，從而提供高度個性化的體驗。

科技產業已經開發出新的解決方案來優化AI模型以在MCU上運行。近年來，Edge Impulse和Google適用於MCU的TensorFlow Lite這兩個平台，因其能夠解決MCU的局限性並為開發人員提供持續支援而脫穎而出。這些平台的設計目的是在具有幾千位元組記憶體的MCU等元件上運行機器學習(ML)模型。

TensorFlow Lite (現為LiteRT)是一個跨平台、完全開源的深度學習框架，能夠將預訓練的TensorFlow模型轉換為適合速度和記憶體優化的格式。該模型可以部署在基於不同作業系統(如Android、iOS、Linux或Raspberry Pi)的嵌入式設備，以及MCU上，以執行本地推理。在MCU上運行TensorFlow模型的典型工作流程包括使用特殊庫在目標設備上訓練模型和運行推理。

Edge Impulse和適用於MCU的TensorFlow Lite平台為在嵌入式設備上實現AI模型鋪平了道路。透過結合先進的模型壓縮技術、特定於硬體的優化和直覺易用的工具鏈，現在可以在資源非常有限的設備上運行神經網路。硬體的不斷小型化和高效演算法的開發減少了對運算能力和記憶體的需求，從而取得了進展。這些新技術的影響在智慧家庭等領域顯而易見，其中內建嵌入式MCU的設備可以利用AI識別手勢或語音命令，無需遠端伺服器即可分析視訊串流，或者使用透過光感測器獲取攝影機資料的系統來檢測人員。這些應用確實多種多樣。即使在汽車產業，支援AI的MCU也可用於即時分析來自車輛感測器的資料，從而提高駕駛安全性並優化自動駕駛系統的性能。

在MCU上實現AI民主化

Edge Impulse是一個致力於普及AI的創新平台，專注於邊緣運算設備(尤其是MCU)上的資料收集、模型創建、訓練和部署。該公司成立於2019年，憑藉其全面的工具套件，迅速成為MCU機器學習領域的領導者，這些工具套件有助於設計、訓練和部署針對低功耗硬體優化的AI模型。Edge Impulse的顯著特點之一是其「端到端」方法，允許開發人員直接建構從資料收集到最終部署的ML管道。得益於直覺的Web介面，該流程得到了簡化，該介面從連接到MCU的感測器獲取資料，對其進行處理，訓練AI模型並將模型部署到真實設備上，所有這一切都不需要高階程式設計或嵌入式軟體發展知識。Edge Impulse可幫助完成邊緣AI生命週期的每個階段，從資料收集、特徵提取、ML模型設計、模型訓練和測試到將這些模型部署到終端設備(圖1)。

 Back