前言
當前,物聯網(IoT)和人工智慧(AI)技術的快速發展,正在改變我們的生活和工作方式。隨著物聯網設備的普及,對於高效能、低功耗的邊緣計算解決方案的需求日益增加。Synaptics的Astra SL1680嵌入式處理器和Hailo-8 AI加速器的結合,為邊緣計算設備帶來了前所未有的性能和效率。Astra SL1680是一款高性能的嵌入式處理器,專為多模態消費、企業和工業物聯網工作負載而設計,具備強大的AI推理能力和多媒體處理能力。而Hailo-8則是目前市場上性能最強的邊緣AI處理器之一,能夠在低功耗的情況下提供高達26 TOPS的AI計算能力。
平台資源介紹
Synaptics Astra SL1680
Synaptics 成立於 1986 年,總部位於美國加利福尼亞州。專注於開發和製造人機界面解決方案,為移動計算、通信和娛樂設備提供創新技術。產品包括觸控板、觸控屏、指紋識別傳感器和多媒體處理器等,廣泛應用於筆記型電腦、智能手機、平板電腦和其他電子設備。在觸控技術領域具有領先地位,為多家知名品牌提供 OEM 服務,此外,也積極拓展其技術應用範圍,包括智能家居、汽車電子和物聯網設備。
Astra SL1680嵌入式處理器是一款高度集成的AI原生系統晶片(SoC),專為多模態物聯網應用而設計。它搭載了四核Arm Cortex-A73 64位CPU子系統,並配備了多TOPS的神經處理單元(NPU)、高效能的GPU以及多媒體加速器,支持圖像信號處理(ISP)、4K視頻編解碼和音頻處理。
核心技術優勢:
1. 高性能計算引擎:SL1680 配備了四核 Arm Cortex-A73 64 位 CPU 子系統,運行頻率高達 2.1GHz,並且每個核心擁有 64KB 的指令快取和 32KB 的數據快取,共享 1MB 的 L2 快取
2. 強大的 AI 推理能力:SL1680 集成了一個多 TOPS 的神經處理單元(NPU),支持多種深度神經網絡框架,提供高達 7.9 TOPS 的 AI 計算能力,這使得 SL1680 能夠在邊緣設備上實現高效的 AI 推理。
3. 先進的圖形和多媒體處理:SL1680 配備了高效能的 Imagination PowerVR Series9XE GE9920 GPU,支持 OpenGL ES 3.2、DirectFB、OpenCL 1.2 和 Vulkan 1.1 等圖形標準。此外,SL1680 還具備多標準視頻解碼(如 AV1、H.265/264、VP9/8、MPEG2)和多流編碼(如 H.264、VP8)的能力,支持 4K 視頻編解碼和音頻處理。
4. 強大的安全性:SL1680 內置了多層安全機制,包括安全 CPU、RSA 安全啟動、記憶體加密、完整性檢查、物理攻擊緩解和真隨機數生成器。這些特性確保了設備在運行過程中的數據安全和系統完整性。
5. 豐富的連接選項:SL1680 支持多種連接接口,包括 GbE 網絡、PCIe、eMMC 5.1、SPI、SDIO、UART、USB、GPIO 和 ADCs。此外,SL1680 還具備多協議喚醒事件的 Always-on 域,確保設備在低功耗模式下也能保持高效運行。
總結來說,Synaptics Astra SL1680 平台憑藉其高性能計算引擎、強大的 AI 推理能力、先進的圖形和多媒體處理、強大的安全性以及豐富的連接選項,成為物聯網應用中不可或缺的解決方案。這些核心技術優勢使得 SL1680 能夠在智能家居、安全監控、工業自動化、數字標牌和零售等領域發揮重要作用。
開發版
來源出處 : 官方網站
https://synaptics-astra.github.io/doc/v/1.5.0/hw/sl1680.html
Hailo-8
Hailo Technologies Ltd.(簡稱 Hailo)是一家以色列的人工智慧技術公司,專注於設計和製造 AI 處理器和 AI 加速器,主要應用於自動駕駛車輛、安全攝像頭、自主移動機器人等領域,公司成立於 2017 年,總部位於以色列特拉維夫,並在北美、歐洲和亞洲設有辦事處。Hailo 的使命是將高性能 AI 帶到邊緣設備,讓 AI 技術不再僅限於數據中心。公司致力於開發高效能、低功耗的 AI 處理器,幫助各行各業實現智能化轉型。Hailo 的產品組合包括 AI 加速器和 AI 視覺處理器,這些產品能夠在邊緣設備上實現實時深度學習推理。
Hailo-8 是一款專為邊緣設備設計的高性能 AI 處理器,旨在提供數據中心級別的性能,並且具備卓越的功耗效率。這款處理器能夠在邊緣設備上實現實時、低延遲和高效能的 AI 推理,為各種應用提供強大的支持。
核心技術優勢:
1. 卓越的 AI 計算能力:Hailo-8 提供高達 26 TOPS(每秒 26 兆次運算)的 AI 計算能力,這使其在邊緣設備中脫穎而出。這種強大的計算能力使得 Hailo-8 能夠高效地運行深度學習應用,處理複雜的神經網絡模型。
2. 最佳的功耗效率:Hailo-8 的典型功耗僅為 2.5W,這使其成為市場上功耗效率最高的 AI 處理器之一。這種低功耗特性使得 Hailo-8 非常適合需要長時間運行且功耗敏感的應用,如智能家居和工業自動化。
3. 實時低延遲推理:Hailo-8 能夠在邊緣設備上實現實時、低延遲的 AI 推理,這對於需要即時反應的應用(如視頻分析和計算機視覺)尤為重要。這種能力確保了設備能夠快速處理和分析數據,提供即時的反饋和決策。
4. 高成本效益:Hailo-8 在每美元的 TOPS 效率上具有顯著優勢,這使其成為一個高性價比的解決方案。這種高效能和低成本的結合,使得 Hailo-8 在各種應用中具有廣泛的吸引力。
5. 可擴展性:Hailo-8 支持多流和多模型的同時處理,並且可以通過多個 Hailo-8 設備的協同工作來實現性能的線性擴展。這種可擴展性使得 Hailo-8 能夠靈活應對不同規模和複雜度的應用需求。
6. 易於集成:Hailo-8 的硬體集成非常簡單,無需外部記憶體,這使得其在各種邊緣設備中的部署變得更加方便。此外,Hailo-8 還支持多種 AI 框架(如 TensorFlow、PyTorch 和 ONNX),以及多種主機架構(如 x86 和 ARM),這進一步提高了其靈活性和兼容性。
總結來說,Hailo-8 平台憑藉其卓越的 AI 計算能力、最佳的功耗效率、實時低延遲推理、高成本效益、可擴展性和易於集成的特點,成為邊緣 AI 應用中的理想選擇。這些核心技術優勢使得 Hailo-8 能夠在智能家居、安全監控、工業自動化和智慧城市等領域發揮重要作用。
Hailo-8 M.2 AI Acceleration Module
來源出處 : 官方網站
https://hailo.ai/products/ai-accelerators/hailo-8r-mpcie-ai-acceleration-module/#hailo8-overview
快速環境架設
# Yocto BSP 必要軟體安裝
$ sudo apt-get upgrade
$ sudo apt install build-essential make cmake dpkg dkms git curl
# 下載官方來源代碼至 <Yocto source> 底下
~/astra-source-code/sdk$ git clone https://github.com/hailo-ai/hailort.git
~/astra-source-code/sdk$ cd meta-hailo
~/astra-source-code/sdk/meta-hailo$ git checkout kirkstone
# 請添加下列套件在 <Yocto source>/conf/local.conf :
#hailo8
IMAGE_INSTALL:append = " libhailort"
IMAGE_INSTALL:append = " hailortcli"
IMAGE_INSTALL:append = " pyhailort"
IMAGE_INSTALL:append = " libgsthailo"
IMAGE_INSTALL:append = " hailo-pci"
IMAGE_INSTALL:append = " hailo-firmware"
HAILORT_OFFLINE_BUILD_ENABLE = "1"
BB_GENERATE_MIRROR_TARBALLS = "1"
# 請添加下列子層級 在 <Yocto source>/conf/bblayers.conf :
BBLAYERS += "${BSPDIR}/meta-hailo/meta-hailo-accelerator"
BBLAYERS += "${BSPDIR}/meta-hailo/meta-hailo-libhailort"
# 編譯前設置
$ sudo service docker start
$ docker run --rm -it -v $(pwd):$(pwd) ghcr.io/synaptics-astra/crops:1.0.0 --workdir=$(pwd)
$ source meta-synaptics/setup/setup-environment
# 編譯
$ bitbake astra-media
# 如果出現錯誤如下,主要是路徑錯誤
install: cannot stat '/home/brandon/astra-1.4/sdk/build-sl1680/tmp/work/cortexa73-poky-linux/libhailort/4.19.0-r0/build/hailort/libhailort/src/CMakeFiles/Export/lib/cmake/HailoRT/*.cmake': No such file or directory
# 把Export/xxxxxxxxxxxxxx/ 資料夾內的兩個檔案
HailoRTTargets.cmake 和 HailoRTTargets-release.cmake
複製到自行新增的 Export/lib/cmake/HailoRT/ 下
再重新build一次,就可以了
# 產生的image在如下的路徑
~/astra-1.4\sdk\build-sl1680\tmp\deploy\images\sl1680\SYNAIMG
# 燒錄方式可以參考這裡
~enjoy~
參考來源