위키득계정 ↗
기술

MegDet

MegDet기술
첫 공개
2017년
영문 이름
Large Mini-Batch Object Detector
주요 구성
학습률 정책과 Cross-GPU Batch Normalization
연구 대상
대규모 배치 검출 학습
MegDet은 큰 미니배치로 여러 GPU를 활용해 객체 검출기를 학습하는 접근이다. 학습률 정책과 장치 간 배치 정규화를 함께 사용해 학습 시간과 검출 정확도를 다룬다.

배치 크기의 영향

객체 검출 연구는 주로 신경망 구조와 손실을 개선해 왔다. MegDet은 학습의 중요한 요소인 미니배치 크기에 주목해 큰 배치에서 검출기를 학습하는 방법을 조사했다.

여러 장치의 활용

여러 GPU를 활용해 기존보다 많은 예시를 한 미니배치에 포함하도록 구성했다. 논문은 배치를 16에서 256으로 늘리는 예를 포함해 대규모 병렬 학습을 평가했다.

학습률과 정규화

큰 배치에 맞춘 학습률 정책과 장치 간 배치 정규화를 함께 제안했다. 배치 확대에 따른 학습 동작을 조절해 수렴 시간과 최종 정확도를 함께 개선하려는 구성이다.

검출 시스템의 평가

COCO 2017 검출 대회에 제출한 시스템의 기반으로 사용했다. 학습 시간을 줄이는 효과는 연구의 장치 구성과 학습 조건에서 측정한 결과다.

관련 문서

ScratchDet / SNIPER / ImageNet 사전 학습의 재검토 / Libra R-CNN / DetNet / Double-Head R-CNN