티스토리 뷰

기타

[ONNX Runtime] ONNX Runtime GPU 설치

developer0hye 2022. 10. 6. 19:06

0. GPU Driver, CUDA, CUDNN 설치전 아래 링크에서 CUDA, CUDNN 버전 맞는 거 찾고 해당 CUDA, CUDNN 지원하는 GPU Driver 탐색

 

https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#requirements

 

CUDA (NVIDIA)

Instructions to execute ONNX Runtime applications with CUDA

onnxruntime.ai

 

 

1. Nvidia GPU Driver 설치

 

2. CUDA 설치

 

runfile 받아서 설치해주자

명령어 한줄로 설치 가능

설치하다가 driver 설치 여부를 묻는데 driver 는 체크 해제하고 CUDA만 설치해주자

 

설치끝나면 CUDA 라이브러리 경로를 환경변수에 등록

 

3.  onnxruntime-gpu 설치

 

4. 프로그램 실행!

 

nvidia-smi -l 1 으로 gpu 사용량 체크해주고 process에 해당 프로그램 잡히는지 확인

댓글
공지사항
최근에 올라온 글
최근에 달린 댓글
Total
Today
Yesterday
링크
«   2025/01   »
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31
글 보관함