자동 백본 탐색 중

요새 NAS(Neural Architecture Search) 마냥 real world dataset 에 대한 BS(Backbone Search)를 진행하고 있다.

 

실험 해보니, 백본마다 transfer learning시 성능이 크게 다르다.

 

대체로 모델들 끼리 성능을 봐볼때 이미지넷상에서의 성능을 척도로 이 모델이 좋다 저 모델이 좋다고 주장한다. 나아가서 detection, segmentation, transfer learning등 광범위한 실험을 근거자료로 제시한다.

 

근데, 실제로 real world dataset으로 이 백본, 저 백본 다 돌려보면 막상 다양한 태스크, 데이터셋에서 성능이 잘나왔다는 모델도 그렇게 성능이 안나오는 경우가 많았다.

 

또 어떤 백본은 freeze 시켜야 성능이 잘나오고, 어떤 백본은 전체 레이어를 finetune 해줘야 성능이 잘나온다. 실험해볼게 너무 많다.

 

아직 현재 진행중이다. 한 3~4일 돌면 최적의 백본을 찾아낼 수 있을 거 같다.