https://developer0hye.tistory.com/598 20230706 최고 월간 방문수 경신 및 누적 방문수 6만 돌파 https://developer0hye.tistory.com/557 20230503 최고 월간 방문수 경신 https://developer0hye.tistory.com/516 20230401 최고 월간 방문수 경신 기존: 3,755 신: 4,197 developer0hye.tistory.com developer0hye.tistory.com 근 두달간 챗지피 developer0hye.tistory.com
3개의 함수를 1개의 함수로 줄여버렸다. cv::cuda::GpuMat의 ptr 반환형을 void로 지정하니 constexpr 키워드와 함께 해당 블럭의 컴파일이 안되더라... 원래 그런건가? 컴파일할때 뭔가 불명확해져서 컴파일이 안되나...?? template 함수를 사용하면 안되는건가...! 아무튼, constexpr 을 적절히? 처음 실제 코드를 작성하는데 활용해봤다. 원래는 함수에 잘 붙던데, 아직 함수에 붙여보지는 않았다. 코드의 재사용성을 증가시켰다기 보다는 locality 측면에서 개선된 느낌이다. 아... 그리고 Ort::MemoryInfo에 "Cuda" 대신 멋대로 "CUDA" 넣어봤는데 역시 안됐다ㅋㅋ 이거말고 다른데를 손봐야 하는데...
https://onnxruntime.ai/docs/execution-providers/TensorRT-ExecutionProvider.html#c-api-example NVIDIA - TensorRT Instructions to execute ONNX Runtime on NVIDIA GPUs with the TensorRT execution provider onnxruntime.ai 20230725 기준 ONNXRuntime Official Docs 에 안내된 TensorRT 사용법으로는 TensorRT를 완전히 활용할 수 없는 걸로 파악된다. 여기서 완전히 활용 못한다는 의미는 Dynamic Batch 사이즈를 갖는 데이터에 대한 Inference 를 의미한다. 왜냐! 처음에 모델 Build할때 min..
https://catalog.ngc.nvidia.com/orgs/nvidia/containers/cuda CUDA | NVIDIA NGC CUDA is a parallel computing platform and programming model that enables dramatic increases in computing performance by harnessing the power of the NVIDIA GPUs. catalog.ngc.nvidia.com nvidia에서 제공하는 cuda-devel 이미지를 사용하면 TensorRT 를 쉽게 설치할 수 있다. * TensorRT이미지를 사용해도 되지만 cuda-devel 을 base로 하는 경우에 한하여 작성된 글이다. cuda-devel 이미지로..
https://github.com/developer0hye/onnxruntime-cuda-cpp-example/blob/main/examples/dynamic_batch_yolov8.cpp 테스트 모델: YOLOv8n Class Score 가 0.25 이상인 바운딩 박스만 출력 CPU Output size: 6 x1: 0.0581711 y1: 254.459 x2: 32.5574 y2: 324.874 score: 0.255069 class_id: 11 class_name: stopsign x1: 19.2957 y1: 230.079 x2: 793.328 y2: 756.118 score: 0.870351 class_id: 5 class_name: bus x1: 669.096 y1: 393.621 x2: 809..
onnx 모델에는 operations 뿐만아니라 metadata 도 저장할 수 있다. 이를 잘 활용하면 하나의 onnx 파일로 별도의 config 파일 없이도 손쉽게 모델을 배포할 수 있을 것이다. 이를 C++ 에서 읽어올 수 있는 방법은 아래와 같다. *onnxruntime 1.15.1 기준이다. #include #include #include #include #include #include #include #include #include #include #include #include int main(int argc, char *argv[]) { std::string model_file = "/app/models/yolov8n.onnx"; Ort::Env env(ORT_LOGGING_LEVEL_WAR..
- Total
- Today
- Yesterday
- 이분탐색
- 순열
- 단축키
- 가장 긴 증가하는 부분 수열
- 조합
- MOT
- Lowest Common Ancestor
- cosine
- PyCharm
- 백준 11053
- 위상 정렬 알고리즘
- 백준 1766
- ㅂ
- 인공지능을 위한 선형대수
- LCA
- 백준 11437
- 백준
- 문제집
- 자료구조
- 파이참
- C++ Deploy
- 백트래킹
- FairMOT
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |