本發明涉及一種基于TensorRT加速深度學習圖像識別的方法、裝置及介質的技術方案,包括:配置用于運行TensorRT的數據、模型及環境;將模型轉換為ONNX格式;通過TensorRT對ONNX格式的模型分別生成多計算模式運算的TensorRT引擎文件;輸入用于檢測的多張人臉照片,通過MTCNN網絡對人臉照片進行人臉檢測,輸出檢測列表;將檢測列表中的人臉照片通過包括有TensorRT的多種加速深度學習圖像識別的推理計算,分別推理計算人臉照片的向量、時間及距離,選取加速效果最優的TensorRT加速計算模式。本發明的有益效果為:保持原有精確率幾乎無損的情況下,同時也提升了GPU服務器的資源利用率,降低了業務升級和維護方面的人力及物力。
聲明:
“基于TensorRT加速深度學習圖像識別的方法、裝置及介質” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
我是此專利(論文)的發明人(作者)