智慧浪潮崛起：AI 與邊緣運算的時代 正悄然深植於我們的日常生活之中，無論是火熱的 ChatGPT 與 DeepSeek 語言模型、亦或是 Meta 智能眼鏡，AI 技術已經無形地影響著我們的生活。這股變革浪潮並未停歇，而是進一步催生了更高效、更貼近現實需求的技術演進。
然而，隨著 AI 應用場景的拓展，傳統雲端計算在即時性、隱私保護與頻寬等方面逐漸面臨瓶頸。特別是在自動駕駛、智慧醫療、工業自動化等高精度應用中，毫秒級的延遲可能導致關鍵決策錯誤。因此，邊緣運算(Edge Computing) 應運而生，它讓數據處理更接近來源端，實現更低延遲、更高安全性與更高效率的 AI 運算模式。
這一轉變的核心驅動力來自於 神經運算處理單元(Neural Processing Unit, NPU) 的發展，使小型化設備具備更強的計算能力，降低了數據傳輸的延遲與成本，更提升了隱私安全性，使 AI 能夠在更多元的場景中落地。
視覺 AI 的崛起：改變世界的關鍵應用 從醫療診斷到自動駕駛，視覺 AI 的應用範圍愈加廣泛，並深刻改變著各大產業的運作模式。
以下是 AI 在視覺領域的重要應用：
- 智能監控：智能監控(Intelligent Surveillance)：透過即時目標偵測、行為分析與入侵預警，強化城市安全與監控系統。
- 智慧零售(Smart Retail)：藉由顧客行為分析與智能貨架管理，提升購物體驗，優化銷售策略。
- 醫療影像分析(Medical Image Analysis)：運用 AI 協助醫生進行疾病診斷，如腫瘤檢測與病變識別，提高醫療準確性。
- 工業質檢(Industrial Quality Inspection)：自動化檢測產品瑕疵，提高製造業品質管控與生產效率。
- 高級輔助駕駛系統(ADAS)：透過 AI 處理視覺資訊，分析道路環境、行人及障礙物，提升行車安全與決策能力。
- 農業監測(Agricultural Monitoring)：透過 AI 視覺技術，農民可以監測作物健康狀況，檢測病蟲害，優化農業管理，提高產量和品質。
- 自走車(Autonomous Mobile Robots)：自走車利用 AI 技術，透過感測器和演算法，自主導航並避開障礙物，應用於物流、巡檢等多種場景。
- 機械手臂(Robotic Arms)：在製造業中，機械手臂結合 AI 與視覺系統，能精確地執行組裝、焊接等任務，提高生產效率和產品品質。
- 自動送餐系統(Automated Food Delivery Systems)：外送平台如 Uber Eats，正在美國多個城市部署由 Serve Robotics 開發的送餐機器人，這些機器人配備 AI 技術，能自主導航至顧客所在地，提供高效的送餐服務。
- 無人機影像分析(Drone Image Analysis)：AI 驅動的視覺系統使無人機能夠進行地形測繪、災害評估和基礎設施檢查，提供高效的數據收集和分析。
當 AI 與邊緣運算技術結合後，這些應用將變得更高效、更可靠，也更貼近人們的實際需求。未來的世界，將是一個充滿智慧、無縫連接的數位時代，AI 不僅是技術，更是推動產業變革與人類進步的關鍵動力。
圖1 i.MX95 EVM Board應用場景
NXP 的 i.MX 95 應用處理器系列以其強大的多核心架構，為高效能和即時應用提供了堅實的基礎。該系列處理器配備六個 Arm® Cortex-A55 核心、一個 Arm Cortex-M7 核心，以及一個 Arm Cortex-M33 核心，這種配置使系統能夠在應用層面、系統層面和即時處理等多個領域實現卓越的性能。
為了進一步提升人工智慧(AI) 應用的效率，i.MX 95 系列整合了 NXP 的 eIQ® Neutron 神經處理單元(Neural Processing Unit, NPU) ，提供高達 2 TOPS (每秒兆次運算) 的運算能力。這使得推理計算的時間大幅縮短，例如，在運行常見的物件偵測模型 YOLOv5 時，處理單張圖片僅需約 5 毫秒(ms) 即可完成識別，展現了極高的運算速度。
此外，i.MX 95 系列還配備了先進的 影像處理單元(Image Signal Processor, ISP) 和 2D / 3 D 圖形處理器(Graph Processor Unit) ，支援 4K 解析度下每秒 60 幀的編解碼能力。這些功能使得傳統的影像縮放、格式轉換和視訊解碼等任務得以高效處理，確保影像串流的最佳化。
圖2 i.MX 95 方塊圖示意圖
i.MX 95 應用處理器系列提供豐富的 I/O 介面，方便用戶連接各種周邊裝置，滿足多樣化的應用需求。其支援的介面包括：
- MIPI-CSI：支援多個攝影機的連接 (最高支援 8 路)，適用於高解析度影像擷取，滿足先進的影像處理和機器視覺應用需求。
- 乙太網路介面：配備 1 個 10GbE 和 2 個 Gb 乙太網介面，支援時間敏感型網路(TSN)、音訊視訊橋接(AVB) 和 IEEE 1588 同步協定，確保高速且精確的資料傳輸，適用於工業自動化和車載網路等需要高可靠性和低延遲的應用。
- USB 介面：提供 1 個 USB 3.0 Type C 和 1 個 USB 2.0 Type C 介面，支援高速資料傳輸和多種外接裝置，提升系統的擴充性和靈活性。
- CAN FD 介面：具備 5 個 CAN FD 介面，適用於車輛和工業控制系統，提供可靠的通訊能力，支援更高的資料速率和更高效的資料傳輸。
- 串列通訊介面：支援 8 個 UART、8 個 I²C、8 個 SPI 和 2 個 I3C 介面，提供多樣化的通訊選項，方便與各種感測器、致動器和其他周邊裝置的連接。
- 類比數位轉換(ADC)：包含 1 個 8 通道、12 位元 ADC，適用於精確的類比訊號測量，如感測器資料擷取和監控應用。
- FlexIO 介面：提供兩個 32 引腳的 FlexIO 介面，可配置為 UART、SPI、I²C 和 I²S 等通訊介面，增加系統設計的靈活性，滿足特定應用需求。
- PCIe 介面：具備 2 個 PCIe Gen 3 通道，支援高速資料傳輸和擴充，適用於連接高效能外設，如高速儲存裝置和網路卡。
- MIPI-DSI 顯示介面：支援高達 350 MHz 的 MIPI-DSI，採用四通道配置，每個通道的資料傳輸速率為 2.5 Gbps，能夠實現 4K 解析度(每秒 30 幀) 或 3840x1440 解析度 (每秒 60 幀) 的顯示輸出，滿足高解析度顯示需求。
- LVDS 顯示介面：支援最高 1080p@60fps 的 LVDS 傳輸，可配置為 2 組 4 通道或 1 組 8 通道，提供靈活的顯示介面選項，滿足不同的顯示應用需求。
本方案是 基於 i.MX 95 的 AI Camera 或 AI 工業電腦 來展示模組推理效能，結合了多項核心技術，包括神經處理單元(NPU)、圖形處理單元(GPU) 和影像訊號處理器(ISP)，使其在人工智慧(AI) 和影像處理應用中表現出色，
其中實現多種 AI 功能，如：
- 物件偵測(Object Detection)：識別並定位影像中的各種物體。
- 肢體識別(Pose Estimation)：分析人體姿態，追蹤關鍵點位置。
- 物件分割(Object Segmentation)：將影像中的物體從背景中分離出來。
- 工地安全帽檢測(Construction Helmet Detection)：確認工人是否佩戴安全帽。
- 車輛檢測(Vehicle Detection)：識別並追蹤車輛。
- 口罩檢測(Mask Detection)：判斷人員是否佩戴口罩。
- 水果偵測(Fruit Detection)：識別不同種類的水果。
- 人體特徵點偵測(Human Keypoint Detection)：定位人體關鍵點。
- 手部骨架偵測(Hand Skeleton Detection)：追蹤手部關節位置。
- 深度估算(Depth Estimation)：估計影像中物體與相機之間的距離。
這些功能的實現得益於 i.MX 95 處理器的高效能，系統能夠以每秒 30 幀 (FPS) 的速度處理影像，且僅佔用約一個 CPU 核心的資源，大幅減輕了 CPU 的運算負擔，滿足大多數邊緣運算應用的需求。
圖3 i.MX 95 AI DEMO 示意圖
NXP (恩智浦) 在推動 人工智慧(AI) 運算平台方面展現了卓越的進步。透過 eIQ 能夠快速地應用 TensorFlow、TensorFlow Lite、ONNX、Keras 等等深度學習框架。如同下圖所示，僅需將影像、聲音等相應的資料，託付(Delegate) 給任何一個深度學習框架進行推理，即可快速解析神經網路架構來得到結果。且該框架將會透過 Neutron Delegate 作最佳化的加速運算處理。經實際測試，YOLOv5s 物件偵測，推理速度約可達到每秒 190 張 FPS。
圖4 NXP I.MX95 EVK深度學習應用示意圖
從 i.MX 8M Plus、i.MX 93 到最新的 i.MX 95 系列，性能提升顯著，特別是在物件偵測等常見 AI 應用中，運算速度大幅提高。即使在物理規格相近的情況下，i.MX 95 的神經處理單元(NPU) 相較於 i.MX 8M Plus，運算速度提升了近四倍。
圖5 i.MX 95 AI 效能示意圖
i.MX 95 系列處理器不僅具備強大的運算能力，還提供豐富且多樣化的 I/O 介面配置。這使開發者能夠靈活地連接各種外設，滿足不同應用場景的需求，提供高度的設計自由度和擴充性。實際應用上，這些處理器展現了極大的靈活性，可廣泛應用於物聯網(IoT)、工業 4.0、自駕車等領域，充分實現 邊緣運算(Edge Computing) 的概念，創造更高的應用價值。
另外，NXP 為開發者提供了強大的工具，助力他們在各種創新應用中實現 AI 能力。
- eIQ® Toolkit for End-to-End Model Development and Deployment
- eIQ® Model Watermarking Technology
- eIQ Example
- eiq-model-zoo
- nxp-nnstreamer-examples
- GUI Guider
- AI DEMO by WPI offer
- ATU_Model_Zoo by WPI offer
►場景應用圖
►展示板照片
►方案方塊圖
►核心技術優勢
◆ 搭配算力 2 TOPS 的 eIQ® Neutron 神經處理器(Neural Processing Unit , NPU)，即擁有強大的機器學習推理能力。比起廣為人知的 圖形處理器(Graphics Processing Unit , GPU) 更為省電，效率更高，是專門設計應用於深度學習、人工智慧的處理器 !! ◆ 獨立 SOM 開發板設計，並搭配強大的 NXP i.MX 95 晶片，並根據需求自由配置 I/O 接口，以與 SOM 搭配使用。這種靈活性使開發者能夠針對特定應用場景，設計符合需求的硬體平台，充分發揮 i.MX 95 晶片的性能和功能。 ◆ 結合 I / O 開發板能夠提供齊全的周邊配置。如高畫質多媒體介面(HDMI)、低壓差分訊號技術介面(LVDS)、乙太網路(Ethernet)、控制器區域網路(CAN bus)、非同步收發傳輸器(UART)、通用序列匯流排接口(USB Type A/C)、3.5 mm headset 音源接口、鏡頭資料傳輸介面(MIPI-CSI)、顯示資料傳輸介面(MIPI-DSI)、M.2 - PCIe 3.0 傳輸介面。 ◆ 可快速上手應用 eIQ / PyeIQ 機器學習開發環境，提供 TensorFlow、TensorFlow Lite、ONNX、Keras、Pytorch 等多種深度學習框架的應用範例。
►方案規格
MPU (NXP i.MX95, MX95LPD5EVK-19CM) 核心規格: ◆ Powerful Hexa-core Arm Cortex-A55 processor up to 1.8 GHz ◆ eIQ® Neutron Neural Processing Unit operating at up to 2 TOPS . ◆ Dual Image Signal Processors(ISP) and support RGB-IR format. ◆ Two MIPI-CSI Camera Interface for Vision Processing Application. ◆ Robust 3D/2D Graphic acceleration (Arm Mali-G310) . ◆ Strength Video Encoder and Decoder up to 4Kp60 frame (including JPEG, H.264 and H.265). ◆ High-definition Display: MIPI-DSI at 4Kp30 and LVDS at 1080p. ◆ Built-in eMMC 5.1 with 64GB storage capacity ◆ Supports external memory with up to 6.4 GT/s data rate and a 32-bit interface for LPDDR5/LPDDR4X MPU (NXP i.MX95, MX95LPD5EVK-19CM) I/O 規格 : ◆ 1x10GbE + 2x Gb Ethernet w/TSN; AVB and IEEE 1588 for sync ◆ 1x USB 3.0 Type C with PHY + 1x USB 2.0 Type C with PHY ◆ 5x CAN FD ◆ 8x UART, 8x I²C, 8x SPI, 2x I3C ◆ 1x 8-ch, 12-bit ADC ◆ 2x 32-pin FlexIO interfaces ◆ 2x PCIe Gen 3 1x lane