tensorrt_models:该项目旨在通过python在TensorRT上进行cpp推理

Python中的TensorRT推理 该项目旨在通过tensorRT通过其C ++ API为NN提供快速推理，而无需任何C ++编程。 使用您可爱的python。 例子 重要的 当前支持CUDA 10.2，TensorRT 7.1.3.4和TensorRT 7.2.1.6。 也是CUDA 11.1和TensorRT 7.2.2 制作说明 Windows预构建说明： 安装Visual Studio 然后安装CUDA（确保VS版本满足cuda要求 建造： 下载TensorRT库并解压缩。 git clone-递归 cd tensorrt_models 打开CmakeLists.txt并更改TensorRT的include和lib路径。 点安装。 预构建包 那么你就可以： from tensorrt_models import TRTModel model = TRTModel