隨著人工智慧技術的不斷發展,邊緣運算(Edge Computing)已成為企業創新與數位轉型的重要引擎。如何在有限的運算資源下,實現高速且精確的 AI 推理任務,是企業面臨的主要挑戰之一。Axelera AI 憑藉其卓越的 AI 加速解決方案,致力於協助企業迅速部署高效能,低功耗的邊緣運算平台,廣泛應用於智慧城市,智慧交通及工業檢測等領域。接著說明 Axelera AI 產品特色與技術重點(Key Features and Technologies)。
Axelera AI 提供的 AI 加速產品具有以下特色與技術優勢:
- Voyager SDK 易用性與整合性:支援 ONNX,針對機器學習所設計的開放式的文件格式,用於存儲訓練好的模型。可讓不同的人工智慧框架,像是如Pytorch,MXNet,可以採用相同格式存儲模型數據並交互使用,達到易於整合與快速部署。
- 高效能AI模型推理加速:透過獨有的軟硬體協同優化技術,大幅提升推理效率與降低功耗。Metis AIPU 支援 INT8 精度下高達 214 TOPS,ResNet‑50 推理速度可達 3,200 FPS,遠超同級加速器,並且根據 Axelera 公布基準測試結果,結合其 Voyager SDK,Metis 平均推理速度超越主要競品,它比 Hailo-8(26 TOPs)快10倍左右,比高通的驍龍X (Snapdragon X 45 TOPs) 快4倍左右,在某些情況下甚至可與 NVIDIA Jetson Orin AGX 媲美,性價比也令人印象深刻。在 M.2 規格的開發版中,競爭對手寥寥無幾,主要包括 Hailo、Google Coral、Kneron、DeepX 和 Sima.ai。就原始性能而言,Metis M.2 是目前最快的選擇之一。
- 軟硬體協同加速:Voyager SDK 可自動處理量化、模型優化、前後處理並行執行(推理於 AIPU,其他處理可於 CPU/GPU 平行執行),進一步縮短從影像輸入到結果輸出的全面延遲。
- 多核可同時處理多模型:Metis AIPU 可選擇將四核心並發運行於單一大型模型,或獨立執行多個輕量模型,支援多串流,多任務 AI pipeline,用於複雜影像分析,好比多攝影機或多階段處理。
- 功耗表現卓越:Axelera AI提供的產品,在邊緣設備中達到高效能與低功耗的理想平衡。高效率 15 TOPS/W,推理運算與功耗比極具競爭力,典型運行功耗僅 8–15 W,Metis PCIe模組實測功耗區間落在 8 到 15 瓦之內,M.2卡功耗更低,可低至 3.5 W,峰值不超過 9 W,特別適合用於功耗敏感的嵌入式或無風扇系統,適用於功耗嚴格限制的嵌入式與邊緣設備。
- 支援動態頻率調整(downclock):可根據實際運行需求調整時脈,以進一步降低功耗並最佳化效能/能耗比,Metis AIPU 內建 downclock 功能,能依實際運行場域動態調整運算時脈,靈活的降低功耗,同時透過 Voyager SDK 智能配置,維持高效 fps/W,比較適合在不同使用情境下達到功耗優化與效能兼顧。
- D-IMC 架構優化能量使用:利用數位記憶體內運算(Digital In-Memory Computing)減少資料搬移,避免能源浪費,是高效能結合低功耗的核心。
完整的開發生態圈:透過開源GitHub平台,提供詳盡的SDK安裝指南,模型轉換流程與豐富的部署範例,簡化開發過程。
Axelera Github: https://github.com/axelera-ai-hub/voyager-sdk/blob/release/v1.3/README.md
再來提到應用案例分析,Axelera AI 已於實際應用案例中展現顯著效能提升,以下為幾個案例分析:
智慧交通 -即時 AI 推理效能: 使用 Metis AIPU 配合 Voyager SDK 處理影片串流的效能,可達超過 780 FPS,彰顯其具備超高吞吐能力,非常適用於交通監控與車輛偵測等即時應用場景。以交通流量為例,將取得的原始資料或是採用即時的 Camera 來截取車流數據,可以計算特定時段的車流量資料,進行智慧交通的規劃。

工業自動化與品質檢測: 在工業製造領域,Axelera 強調 Metis AIPU 可在不損失準確度的前提下,提供GPU水準卻更低功耗的機器視覺效能,說明其能於生產線即時完成瑕疵偵測與分選,相較人工具備更高速度與精準度。以水果工廠為例,可於流水線上即時完成瑕疵偵測與分選,可節省人力篩選的時間成本。

圖片出處: Axelera
- 倉儲自動化多串流即時辨識: 也有企業導入 Metis M.2 卡,進行倉儲訂單核對系統,使用四路 1080p 高畫質影像做即時手部與物件偵測,以高相容性與低功耗成功取代傳統工業電腦。
Axelera AI邊緣運算加速方案透過其出色的效能,極佳的功耗效率與簡便的部署流程,能有效的協助企業提高運作效率並降低整體成本。建議各產業的企業導入此方案,以有效強化產品與服務品質,推動企業智慧創新的發展。
►場景應用圖

►產品實體圖

►展示板照片

►方案方塊圖

►核心技術優勢
1.Metis AIPU 芯片:INT8 量化高達 214 TOPS,極佳的推理效能與低功耗。 2.數位記憶體內運算(Digital In-Memory Computing, D-IMC):大幅降低資料搬移需求,顯著提升能量效率。 3.Voyager SDK 軟硬協同優化技術:自動化模型量化、編譯及部署,實現效能最大化與易用性提升。 4.多核彈性運用:支援多串流推理、單一大型模型併行處理,靈活適應複雜應用情境。 5.低功耗設計(Low-Power Design):PCIe模組 8–15W、M.2模組僅 3.5–9W,專為邊緣部署設計。 6.Downclock 技術(動態時脈調整):功耗與效能動態平衡,可因應不同實際需求靈活調整。
►方案規格
1.推理效能:高達 214 TOPS (INT8精度) 2.模型支援 ONNX 3.典型推理 FPS:ResNet-50 模型 3,200 FPS以上 4.PCIe版本功耗:典型 8–15W 5.M.2版本功耗:典型 3.5–9W 6.軟硬體介面支援:PCIe Gen3 x4, M.2接口 (2280規格) 7.SDK:Voyager SDK (量化、優化、自動部署) 8.支援作業系統:Linux (Ubuntu) 9.程式語言支援:Python, C++