단일 경로의 후보 모형
여러 후보를 포함하는 공유 모형을 단순화해 각 구조가 하나의 경로가 되도록 한다. 후보들이 서로의 가중치에 과도하게 의존하는 공동 적응을 완화하는 것이 목적이다.
균일한 경로 학습
훈련 과정에서 경로를 균일하게 표본 추출한다. 원 연구는 후보 구조와 가중치가 고르게 학습되도록 하는 전략으로 원샷 탐색의 훈련 어려움을 다뤘다.
여러 탐색 변수와 제약
블록 종류와 채널 수 및 혼합 정밀도 양자화 같은 탐색 공간을 다룬다. 연산량과 실제 지연 시간 등 서로 다른 제약 아래 ImageNet의 모형 탐색을 평가했다.
관련 문서
FairNAS / BigNAS / AttentiveNAS / Once-for-All / ProxylessNAS / US-Net과 AutoSlim