TensorRT 介紹

TensorRT 是由 Nvidia 推出的圖形最佳化執行環境,可以在模型執行推理 (預測結果) 時,加速其運算速度。不能在訓練時加速訓練過程。

繼續閱讀