[Docker] Nvdia 컨테이너 상에서 TensorRT 쉽게 설치하기

https://catalog.ngc.nvidia.com/orgs/nvidia/containers/cuda

CUDA | NVIDIA NGC

 

nvidia에서 제공하는 cuda-devel 이미지를 사용하면  TensorRT 를 쉽게 설치할 수 있다.

* TensorRT이미지를 사용해도 되지만 cuda-devel 을 base로 하는 경우에 한하여 작성된 글이다.

 

 

cuda-devel 이미지로부터 컨테이너를 만들고나서 아래 명령어를 입력해보자

 

grep ^ /etc/apt/sources.list /etc/apt/sources.list.d/* | grep nvidia

 

https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ 라는 repo가 존재한다.

설치가능한 다양한 파일들이 존재하는데 아래와 같이 TensorRT  도 존재한다.

컨테이너상에서 apt-cache madison tensorrt 를 입력하면 아래와 같이 현재 설치 가능한 버전이 출력된다.

 

원하는 버전(예: 8.5.3-1+cuda11.8) 설치하고자 한다면 

 

apt install tensorrt==8.5.3-1+cuda11.8 로 설치하면 되는데, 이렇게 설치하면 에러가 발생한다.

대신에 TensorRT관련된 lib를 전부 버전을 지정하여 아래 처럼 다운로드 받으면된다.

    apt-get update && \

    apt-get install -y libnvinfer8=8.5.3-1+cuda11.8 \

                libnvinfer-plugin8=8.5.3-1+cuda11.8 \

                libnvparsers8=8.5.3-1+cuda11.8 \

                libnvonnxparsers8=8.5.3-1+cuda11.8 \

                libnvinfer-bin=8.5.3-1+cuda11.8 \

                libnvinfer-dev=8.5.3-1+cuda11.8 \

                libnvinfer-plugin-dev=8.5.3-1+cuda11.8 \

                libnvparsers-dev=8.5.3-1+cuda11.8 \

                libnvonnxparsers-dev=8.5.3-1+cuda11.8 \

                libnvinfer-samples=8.5.3-1+cuda11.8

해당 설치 방식의 단점

https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/  에 존재하는 버전만 설치 가능한 것으로 보인다. 너무 오래된 버전을 사용한다면 nvidia 사이트에 직접 로그인해서 tar 파일이나 deb 파일을 설치하는 수 밖에는 없어보인다.