초기화의 비교
연구는 Mask R-CNN 같은 표준 모델을 무작위 초기화에서 학습해 사전 학습 모델과 비교했다. 사전 학습에 맞춰진 기존 설정을 사용하되 수렴에 필요한 학습 반복 수를 늘렸다.
속도와 최종 성능
실험에서 ImageNet 사전 학습은 초기 수렴을 빠르게 했지만 최종 과제의 정확도를 반드시 높이지는 않았다. 정규화 효과도 자동으로 보장되는 것으로 해석하지 않았다.
여러 조건의 평가
학습 자료 일부만 사용하는 조건과 더 깊거나 넓은 모델도 조사했다. 객체 검출과 인스턴스 분할의 여러 지표를 통해 초기화 방식의 영향을 비교했다.
결과의 해석
이 연구는 외부 분류 자료로 사전 학습한 뒤 미세 조정하는 관행을 검토했다. 수렴에 충분한 학습 시간을 주는 조건에서 얻은 결과이므로 모든 과제와 자료 규모에 동일한 결론을 적용하는 주장은 아니다.
관련 문서
ScratchDet / DetNet / SNIPER / TridentNet / Focal Loss / LVIS