參與:3追蹤:0
onnxruntime using npu
針對方案:基于NXP i.MX8QM的AI影像辨识与车辆识别方案
你好，想請問一下i max 8m plus 上如何在使用onnxruntime時啟用npu
謝謝
2得分
最佳解
<p>Hi, Davision,</p><p>剛查閱新的文件時，正好看到 python onnxruntime npu用法</p><p>import onnxruntime as rt</p><p>sess = rt.InferenceSession("model.onnx",providers='vsiNpuExecutionProvider')</p>
1F
1得分
最佳解
<p>Davision, </p><p>若是 Python 版本, 據我所知目前應該是沒有類似 onnxruntime-gpu 這樣的套件</p><p>而若 C/C++ 版本, 可參考 onnx_test_runner -j 1 -c 1 -r 1 -e vsi_npu ./mobilenetv2-7/</p><p> </p><p> </p>
2F
0得分
最佳解
<p>所以說下面那個文件上面所敘述的這個 vsi_npu其實是沒有作用的意思嗎?謝謝</p><p>他在chapter 1在 i.MX 8M Plus TFLite ONNXRuntime ARMNN 都有在NPU那邊 打勾</p><p>https://www.nxp.com/docs/en/user-guide/IMX-MACHINE-LEARNING-UG.pdf</p>
3F
1得分
最佳解