728x90
반응형

 

TensorRT 7.1.2 버전 부터 Group Normalization plugin 을 지원하기 시작했다.

 

 

 

아래 Github 에서 ONNX GraphSurgeon 을 사용할 수 있으며, 

 

https://github.com/NVIDIA/TensorRT/tree/master/tools/onnx-graphsurgeon

 

NVIDIA/TensorRT

TensorRT is a C++ library for high performance inference on NVIDIA GPUs and deep learning accelerators. - NVIDIA/TensorRT

github.com

 

 

 

python 샘플 코드에 onnx_packnet 을 이용하여 group normalization plugin 을 추가하여 onnx 를 export 할 수 있다. 

 

 

 

 

 

 

 

 

728x90
반응형