面向STM32N6的AI軟體生態系統,整合Neural-ART加速器

關鍵字 :STM32STM32N6AI

描述

 

STM32N6 AI 生態系統(STM32N6-AI)是意法半導體推出的一套工具和資源,旨在支援在高效能 STM32N6 系列微控制器上開發和部署 AI 模型。

STM32N6微控制器 (MCU) 首次整合了意法半導體專有的Neural-ART加速器神經處理單元 (NPU),在AI/ML性能上實現了重大突破。

 

STM32N6-AI 工具專為簡化開發流程而設計,確保開發人員能夠實現最理想的效能與效率。這些工具支援「自帶資料」(BYOD)和「自帶模型」(BYOM)兩種開發方式,以滿足使用者不同的開發實踐與偏好。

 

例如,STM32 Model Zoo(github.com/STMicroelectronics/stm32ai-modelzoo)、ST Edge AI Developer Cloud (STEDGEAI-DC)、STM32Cube.AI (X-CUBE-AI) 和 ST Edge AI Core (STEdgeAI-Core) 等工具,充分發揮了STM32N6在AI和電腦視覺 (CV) 應用方面的潛力。

 

此外,STM32N6-AI還提供多種軟體包,作為使用者AI專案的範例和起點:

  • AI應用:包括簡單的電腦視覺(CV)和音訊應用(例如人物偵測或影像分類),以及更複雜且優化的應用(例如姿勢估計、實例分割、手部關鍵點偵測和音訊場景識別)。

  • 視頻應用:展示完整的應用場景,包括H264編碼以及通過USB視頻設備等級碼流將數據輸出到PC。

總體而言,STM32N6-AI 提供了一個完整的軟體和工具生態系統,幫助開發人員利用 STM32N6 在邊緣構建下一代機器學習應用。STM32N6 中嵌入的 Neural-ART 加速器 NPU 專為高效處理 AI 推理任務而設計,可顯著加速神經網路模型的執行。這種整合使微控制器上的邊緣 AI 應用變得更加實用和普及,為廣泛的應用場景提供了強大、高效且可擴展的解決方案。

 

Neural-ART 加速器由意法半導體的 Edge AI Core 全面支援,包括 STM32Cube.AI 和 ST Edge AI Developer Cloud。這些工具能夠優化神經網路(NN)模型,並生成由 NPU 在硬體中執行的程式碼。透過分析神經網路、準備資料並將其運算元映射到適當的硬體資源,這些工具可以輕鬆發揮 NPU 的全部潛力,實現最佳化的 AI 加速效能。此外,這些工具還支援 Keras、TensorFlow™ 和 ONNX 等主流 AI 框架模型,確保 AI 開發流程的順暢與高效。

 

意法半導體邊緣AI套件

 

STM32N6 AI 生態系統的所有工具和軟體包均屬於意法半導體 ST Edge AI Suite。該套件整合了多種軟體工具,旨在簡化嵌入式 AI 應用的開發與部署。這個綜合套件支援從資料收集到硬體最終部署的整個機器學習演算法和神經網路模型的優化與部署流程,簡化了跨學科領域專業人士的工作流程。

 

意法半導體邊緣AI套件支援意法半導體的多種產品,包括STM32微控制器和微處理器、Neural-ART加速器、Stellar微控制器以及智慧感測器。

 

作為推動邊緣AI技術普及化的策略舉措,意法半導體邊緣AI套件為希望在嵌入式系統中高效運用AI的開發人員提供了強大的資源。

  • 所有功能

    • STM32Cube.AI (X-CUBE-AI):

      • 用於優化神經網路模型的桌面工具(STM32CubeMX 插件)

      • 自動生成適用於STM32微控制器的C程式碼

    • ST邊緣AI開發者雲(STEDGEAI-DC):

      • 線上基準測試平台,用於在Board Farm中線上托管的STM32開發板上對AI性能(推理時間、記憶體佔用)進行基準測試。

      • 自動生成適用於STM32微控制器的C程式碼

      • 透過REST API實現流程自動化

    • ST邊緣AI核心(STEdgeAI-Core):

      • 用於優化神經網路模型的命令列介面 (CLI)

      • 自動生成適用於STM32微控制器的C程式碼

    • STM32模型庫:

      • 提供經過精心優化的 AI 模型集及相關性能、即用型應用範例,以及用於模型訓練、評估、量化、基準測試和部署的腳本。

      • 通過REST API使用ST Edge AI Developer Cloud服務

    • 應用程式包:

      • 提供多個 AI 應用的優化原始碼

      • 在使用者的開發板上無縫實施

    • 入門程式碼範例:

      • 簡單的 AI 程式碼範例和教學,介紹如何使用意法半導體 Neural-ART 加速器實現 AI 應用

      • 可選連結至 STM32 Model Zoo 資源

    • 提供豐富的工具以滿足使用者的配置和目標

    • Neural-ART 加速器與 AI 軟體生態系統的無縫整合,確保了 AI 應用效能的最佳化。

    • 使用者可輕鬆取得模型選擇、訓練腳本及關鍵模型指標,並可直接用於基準測試。

    • 基於Python™腳本(REST API)的機器學習自動化基準測試服務

    • 豐富的使用案例和應用程式碼範例,助您快速在MCU上開啟AI應用開發

    • 原生支援多種深度學習框架,例如 Keras 和 TensorFlow™ Lite,同時相容所有可以匯出為 ONNX 標準格式的框架,包括 PyTorch™、MATLAB® 等。

    • 免費且易於使用的許可條款

★博文內容參考自 網站,與平台無關,如有違法或侵權,請與網站管理員聯繫。

★文明上網,請理性發言。內容一周內被舉報5次,發文人進小黑屋喔~

參考來源

ST: https://www.st.com.cn/zh/development-tools/stm32n6-ai.html

評論