Openvino+VAD(HDDL)在ARM平台上的使用

一、VAD(HDDL)Introduce

        VAD(HDDL)是基於Intel Movidius™ VPU設計的一種計算機視覺處理的硬件加速器,是一款邊緣端設備視覺處理的Mini-PCIE或M.2接口的產品,主要用於深度學習、深度提取、硬件加速等場景,能够在端设备进行深度神经网络( DNN) 推理应用的快速原型设计、验证和现场部署。

        其低功耗VPU架构可实现不依赖于云连接的全新AI应用程序。与Intel® OpenVINO相结合, 使深度学习开发人员能够在需要实时推理的低功耗应用中分析、调整和部署卷积神经网络(CNN) 。

        常見HDDL X2模塊规格如下:
        1)Mini-PCIE Express HDDL

處理器

每张卡包含两个Intel® Movidius™ Myriad™ X 2485

支持的框架

TensorFlow, Caffe ,OpenVino

外形尺寸

Mini PCI-Express 51 x 30 mm

系统要求

x86_64 computer running Ubuntu 16.04 & Windows 10,1GB SDRAM



         2) M.2 HDDL

Processor

Intel® Movidius™ Myriad™ X 2485 MX2

Interface

M.2 B+M key

Cooling

Active fan

Dimensions

22mm x 80mm

Low Power Consumption

Approximate 7.5W


二、OpenVINO + HDDL On Arm

        关于OpenVINO Toolkit的简介,可以参考大大通上另一篇文章的介绍(Intel OpenVINO 简介及其在RK3288 Arm平台的安装)或官网(https://docs.openvinotoolkit.org/latest/index.html#introduction_to_openvino_toolkit)       

 

硬件:NXP LS1023A aarch64(支持标准mini-pcie/m.2接口), HDDL MX1, HDDL MX2

软件:Ubuntu16.04, Cross-Compile Tool Chain, Openvino Toolkit (include intel provided hddl libs & drivers),kernel

 

  1. 准备好开发板或目标机器,确保开机运行和联网都正常。然后将tar.gz解压缩到/opt目录下。
  2. 插上HDDL MX2后,在命令行執行lsusb后顯示有設備ID 03e7:2485說明該設備可以被正常識別到。否則,如果識別不到ID或ID識別的不正確(可以正常識別的有3個:2150/2485/f63b),需要檢查HDDL硬件或散熱是否存在問題。 [对于mini-pcie接口的hddl,硬件需要标准的全卡mini PCIE接口(mini-pcie标准pin define),包含PCIE x1和0信号都需要支持]。
  3. cd /opt/openvino/deployment_tools/inference_engine/external/hddl/drivers/drv_ion, vi Makefile,修改其中的KDIR为对应版本kernel的路径,保存退出后执行make,完成后在该目录下生成ko文件;同样方法在drivers/drv_vsc目录操作生成myd_vsc.ko。
  4. 安装HDDL驱动:执行insmod ./drv_ion/myd_ion.ko, insmod ./drv_vsc/myd_vsc.ko,也可以在drivers目录下执行./setup.sh install安装,然后lsmod查看下是否显示刚刚安装的驱动。
  5. source /opt/openvino/ bin/setupvars.sh。
  6. cd /opt/openvino/install_dependencies,执行./ install_openvino_dependencies.sh安装好依赖。
  7. cd /opt/openvino/deployment_tools/inference_engine/samples, 执行./build_samples.sh编译sample。
  8. cd ~/inference_engine_samples_build/intel64/Release,执行./benchmark_app -i /opt/pic/car.png -m /opt/models/squeezenet1.1/FP16/squeezenet1.1.xml -d HDDL,结果如下:
./classification_sample_async -i /opt/pic/car.png -m /opt/models/squeezenet1.1/FP16/squeezenet1.1.xml  -d HDDL 结果如下:

★博文內容均由個人提供,與平台無關,如有違法或侵權,請與網站管理員聯繫。

★文明上網,請理性發言。內容一周內被舉報5次,發文人進小黑屋喔~

評論