白皮書下載 | 在 ModusToolbox™ 環境中使用 Arm® Ethos™-U55 NPU 實現機器學習應用

作者：英飛凌官微

基於大模型的機器學習 (ML) 運算需要強大的計算資源來進行訓練和推理，因此，它們通常在可以進行大算力數據處理的 PC 或雲服務器上運行。然而，在嵌入式內核架構的革命性發展和軟體工具的突破性進步的引領下，許多輕量級 Al/ML 應用正在迅速下沉至邊緣，並加速嵌入式系統的智能化升級。

PSoC™ Edge是首款支持邊緣人工智慧的超低功耗MCU，使用戶可以通過開發嵌入式系統來打造高度實用且性能強大的硬體平台，實現對世界的人工智慧感知與控制，並支持與外界的智能交互和連接。PSoC™ Edge提供動態可調的功耗與性能模式，在滿足場景低功耗需求的同時，為新一代的應用提供新興的邊緣AI/ML需求、豐富的HMI（人機交互）功能以及信息安全功能。英飛凌還為用戶提供豐富的軟體開發工具集，端到端支持用戶項目開發，包括邊緣人工智慧開發所需的數據採集、模型推薦和訓練等。

ML 應用和場景的推理過程需要大量的矩陣計算，同時當視頻和圖像類數據利用深度學習 ML 模型時，這些應用往往還需要占用大量的內存。為了支持這些場景，有必要使用諸如 Arm^® Ethos™-U55等神經網絡協處理器 (NPU) 來增強處理器的性能。在相同主頻下，配合Arm^® Cortex^®-M55的Helium擴展DSP指令集，處理矩陣運算的能力約相當於Cortex^®-M7的50倍。

能耗效率和低成本是嵌入式 ML 應用的關鍵要求。除增強處理能力之外，還需要降低系統功耗和提供高效的軟體開發環境。英飛凌的 PSoC™ Edge 平台及其ModusToolbox™ 軟體開發環境可以更好地利用平台硬體資源進行 CPU 密集型嵌入式 ML 推理。開發環境涵蓋了用於數據採集、數據預處理、數據標註、模型推薦、模型訓練和部署的工具和優化器。