20220630 그냥 기록하는 글

회사 들어온지 1년 6개월 정도 됐다.

 

처음 회사들어와서 1년 정도는 pytorch 로 모델 설계하고 학습 코드 짜고 평가 코드 짜는 게 주 업무였다. 

 

지금은 실제 비전 애플리케이션을 개발시 모델에 어떻게 다채널 영상을 빠르게! 많이! 넘겨줄 수 있는지(low latency, high throughput!)... 이를 위해 CPU2GPU 과정과 GPU2CPU 과정은 어떻게 줄여나갈 수 있는지...를 고민하고있다.

 

그러다보니 ffmpeg도 건드리게되고 CPU 와 GPU간에 데이터를 주고받는 PCIE Lane의 대역폭도 찾아보게 되고... 이 과정에서 하드웨어적으로 절대로 시간을 줄일 수 없는 부분들에 대해 큰 좌절감을 느끼기도했다... 그리고,  CUDA 도 아주 얕은 수준으로 알게됐다. 1년전인가 2년전 nvidia gtc에서 진행된 CUDA 강의를 들었는데 그때 들은 게 지금와서 큰 도움이 되고있다.  그리고, 석사과정을 밟으며 줏어들었던 비디오 코덱 관련 내용도 도움이 되고 있으며,  지도교수님의 가르침이 여러모로 도움이 되고있다.

 

스티브잡스의 Connectic the dots! 가 떠오른다.