基于多线程异步操作rknn模型对Yolov5进行推理Python源码+文档说明.zip

# 简介 * 使用多线程异步操作rknn模型, 提高rk3588/rk3588s的NPU使用率, 进而提高推理帧数，不过实际在使用摄像头做实时目标检测的时候帧率在25左右，所以后面打算主要使用rknpu2做板端部署，预计会快很多，有待验证 # 更新说明 * 无 # 使用说明 ### 演示 * 运行rkcat.sh可以查看当前温度与NPU占用 * 运行rk3588可以GPU，NPU,CPU的温度和npu的使用率 ### 部署应用 * 修改main.py下的modelPath为你自己的模型所在路径 * 修改main.py下的cap为你想要运行的视频/摄像头 * 修改main.py下的TPEs为你想要的线程数, 具体可参考下表，也可以在运行代码的 * 修改func.py为你自己需要的推理函数, 具体可查看myFunc函数 * 开六个线程推理本地视频能达到75帧左右，受限于摄像头最高帧率为25帧，暂时没测试到实时目标检测能处理的最高帧率 # 补充 * 多线程下CPU, NPU占用较高, **核心温度相应增高**, 请做好散热。 * 使用摄像头做实时目标检测的时候会出现帧率下降很多的情况，我使用1080p usb的摄像头推理的帧率在25fps左右