전체 구조를 학습하는 비용
표 기반 벤치마크는 미리 계산한 성능을 조회해 탐색 실험을 반복하기 쉽게 한다. 그러나 모든 후보의 학습 결과를 저장하려면 탐색 공간을 작게 제한해야 하는 문제가 있다.
일부 관측으로 만드는 평가기
구조의 일부를 학습한 자료에 대리모형을 맞추고 다른 구조의 성능을 추정한다. 비슷한 구조 사이의 관계를 활용하므로 같은 구조의 소수 실행 결과만 조회하는 표와 평가 방식이 다르다.
탐색 경로의 검증
연구는 NAS-Bench-101과 더 큰 두 탐색 공간에서 이 접근을 조사했다. 대리모형에서 얻은 탐색 경로가 실제 평가의 경향을 얼마나 따르는지 확인하며, 예측값과 실제 학습 측정값을 구분한다.
관련 문서
BANANAS / NAS-Bench-101 / NAS-Bench-201 / FairNAS / TE-NAS / 경량 NAS의 무훈련 대리지표