前言上一篇博客給大家介紹了使用opencv加載YOLOv5的onnx模型，但我們發現使用CPU進行推理檢測確實有些慢，那難道在CPU上就不能愉快地進行物體識別了嗎？當然可以啦，這不LabVIEW和OpenVINO就來了嘛！今天就和大家一起看一下如何在CPU上也能感受絲滑的實時物體識別 。
一、OpenVINO是什么OpenVINO是英特爾針對自家硬件平臺開發的一套深度學習工具庫，用于快速部署應用和解決方案，包含推斷庫，模型優化等等一系列與深度學習模型部署相關的功能 。
文章插圖
特點：
- 在邊緣啟用基于CNN的深度學習推理
- 支持通過英特爾MovidiusVPU在英特爾CPU，英特爾集成顯卡，英特爾神經計算棒2和英特爾視覺加速器設計之間進行異構執行
- 通過易于使用的計算機視覺功能庫和預先優化的內核加快上市時間
- 包括對計算機視覺標準（包括OpenCV *和OpenCL）的優化調用
- 通俗易懂點說想要在intel-cpu或者嵌入式上部署深度學習模型，可以考慮考慮openvino
2、OpenVINO toolkit下載安裝下載地址：英特爾 Distribution of OpenVINO 工具套件1）點擊Dev Tools
文章插圖
2）選擇版本，選擇如下版本 ， 并DownLoad：
文章插圖
3）下載后，運行安裝即可！
文章插圖
4）可以選擇安裝路徑 ， 具體安裝可以參考官方文檔：https://docs.openvino.ai/cn/latest/openvino_docs_install_guides_installing_openvino_windows.html
三、模型獲取openvino工作流程，和其他的部署工具都差不多，訓練好模型，解析成openvino專用的.xml和.bin，隨后傳入Inference Engine中進行推理 。這里和上一篇博客一樣可以使用export.py導出openvino模型：python export.py --weights yolov5s.pt --include openvino 當然這里已經為大家轉換好了模型，大家可以直接下載 ， 下載鏈接：YOLOv5 OpenVINO IR模型
文章插圖
四、LabVIEW+OpenVINO調用Yolov5進行實時物體識別1、實現過程
- dnn模塊調用IR模型（模型優化器）
- 設置計算后臺與計算目標設備（推理引擎加速）
- 獲取輸出端的LayerName
- 圖像預處理
- 推理
- 后處理
- 繪制檢測出的對象
文章插圖
文章插圖
3、識別結果CPU模式下，使用openvino進行推理加速 ， 實時檢測推理用時僅95ms/frame，是之前加載速度的三分之一
文章插圖
注意：readNetFromModelOptimizer.vi中IR模型路徑不可以包含中文
附加說明：計算機環境
- 操作系統：Windows10
- python：3.6及以上
- LabVIEW：2018及以上 64位版本
- 視覺工具包：techforce_lib_opencv_cpu-1.0.0.73.vip
- OpenVINO：2021.4.2
如需源碼，請關注微信公眾號VIRobotics,回復關鍵詞：yolov5_openvino 。
如您想要探討更多關于LabVIEW與人工智能技術，歡迎加入我們的技術交流群：705637299，進群請備注暗號：LabVIEW機器學習
【YOLOv5】LabVIEW+OpenVINO讓你的YOLOv5在CPU上飛起來】
推薦閱讀
- 【linux】 第1回 linux運維基礎
- 【Java】Java中的零拷貝
- 【C++】spdlog光速入門，C++logger最簡單最快的庫
- 【python】Ubuntu中多條命令的運行
- 【算法訓練營day4】LeetCode24. 兩兩交換鏈表中的結點
- Sentinel安裝教程【Linux+windows】
- 【強烈推薦】用glob庫的一行命令顯著加速批量讀取處理數據
- 【翻譯】Raft 共識算法：集群成員變更
- 【Spring boot】整合tomcat底層原理
- 【C++】從零開始的CS:GO逆向分析3——寫出一個透視