티스토리 뷰
https://developer0hye.tistory.com/593
[ONNXRuntime] Ort::detail::SessionImpl< T >::Run 에 대하여
https://onnxruntime.ai/docs/api/c/struct_ort_1_1detail_1_1_session_impl.html#af3f7d273f5e468ef21ef0d56d48c32fd ONNX Runtime: Ort::detail::SessionImpl< T > Struct Template Reference #include std::vector< Value > Run (const RunOptions &run_options, const cha
developer0hye.tistory.com
위 글에서 ONNXRuntime Output이 계속 변하는 문제 때문에 힘들다고 말했다.
원인을 찾았다.
GPU와 CPU간 Synchronize가 적절히 이루어지지 않아 발생한 문제였다.
Session 이 Run 되기전에 한 번 Synchronize 를 해주니 문제가 해결됐다.
이전까지 다른 모델들은 이런 문제가 없었는데 왜 이 모델만 이런지 정말 모르겠다...
'Deep Learning' 카테고리의 다른 글
| [ONNXRuntime] ONNX 모델 CPU, GPU 결과 차이 기록 (0) | 2023.07.18 |
|---|---|
| [Deep Learning] C++ ONNXRuntime model metadata 읽기 (0) | 2023.07.17 |
| 비디오 입력 모델 개발 과정에서 발생한 실수 (3) | 2023.06.25 |
| 기록용 ignite optimizer multi groups warmup 관련 (0) | 2023.06.11 |
| ultralytics(YOLOv8) 8.0.114 흥미로운 패치 (0) | 2023.06.09 |
댓글
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- Lowest Common Ancestor
- ㅂ
- 자료구조
- 파이참
- 조합
- 백준 11053
- 백트래킹
- 백준
- 백준 1766
- 이분탐색
- 문제집
- C++ Deploy
- 가장 긴 증가하는 부분 수열
- 백준 11437
- 순열
- MOT
- 위상 정렬 알고리즘
- PyCharm
- 단축키
- 인공지능을 위한 선형대수
- FairMOT
- LCA
- cosine
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 | 31 |
글 보관함