OpenVino 在docker平台上使用HDDL加速卡方法- 以Edge Software Hub上的Intelligent Traffic Management方案為例

1.前言:
之前博文提供過Edge Software Hub時,有人問到HDDL無法使用問題在這邊提供一些方法。其實問題的關鍵在用使用docker來設定使用Host的HDDL driver。所以在跑Edge Software Hub前一定要確定在不使用docker的環境下來就可以使用HDDL來做推論的動作。

本篇博文拿 Intelligent Traffic Management,如下圖,這支應用來跑HDDL,其它支如果有問題可以參考修改看看

 

首先Intelligent Traffic Management要跑在Ubuntu 18.04LTS,所以請先確認您是使用正確作業系統。

 

2.在系統上安裝HDDL驅動程式並打開除錯功能:


先確認系統是安裝OpenVino2021.2版本,並安裝好HDDL驅動,安裝驅動程式請參照OpenVino HDDL DriverInstallation --  Configuration Guide for Intel® Vision Accelerator Design with Intel® Movidius™ VPUs. 

HDDL驅動系統安裝好後可以利用以下指令在DEMO的程式上測試驅動是否安裝成功

#cd /opt/intel/openvino_2021/deployment_tools/demo
#./demo_security_barrier_camera.sh -d HDDL

當您看到以下圖片表示安裝成功,圖片上顯示的 0 fps,是正常的,並非表示您驅動安裝沒有成功




修改HDDL Config為除錯功能方法如下:

Under ~\openvino\deployment_tools\inference_engine\external\hddl\config

修改 hddl_service.config,中的

debug service : true,

device snapshot mode : base


修改好後,打開另一個終端機,並執行設定OPENVINO環境變數,

#source /opt/intel/openvino_2021/bin/setupvars.sh

到HDDL/bin的目錄下,執行HddlDaemon

Under ~\openvino\deployment_tools\inference_engine\external\hddl\bin

#./hddldaemon

直到HDDL跑起來的如下畫面。注意:這時util% 全部都還是 0%







3.安裝 Intelligent Traffic Management並啟用HDDL功能方法:

Edge Software Hub下載intelligent Traffic Management安裝包,並參考安裝步驟


# chmod 755 edgesoftware

#./edgesoftware install

 安裝後,再以下目錄找到camera_config.json, 並將裡面的device改成HDDL

 cd Intelligent_Traffic_Management_/Intelligent_Traffic_Management/intelligent-traffic-management

 

 

並在同層目錄找到Dockerfile, 並加入以下這段script, 網址在此可以拷貝貼上

 

最後按照安裝步驟就可以跑起來HDDL ,可以看到util%已經有loading出現

 

4. 除錯(TROUBLE SHOOT):

在某些情況下,安裝玩HDDL驅動後系統未啟用 ion 驅動程序(例如,由於較新的內核版本或 iommu 不兼容)。 檢查方法如下,

lsmod | grep myd_ion 返回空輸出。

要解決,請使用以下命令:

#docker run -it --rm --net=host -v /var/tmp:/var/tmp –ipc=host

★博文内容参考自 网站,与平台无关,如有违法或侵权,请与网站管理员联系。

★文明上网,请理性发言。内容一周内被举报5次,发文人进小黑屋喔~

评论