제한된 후보 연산의 영향
표 기반 벤치마크는 많은 구조의 성능을 쉽게 조회하게 하지만 후보 연산과 외부 골격이 제한될 수 있다. 연구는 이런 설정에서 어떤 연산이 구조 성능을 좌우하는지 조사했다.
연산 조합과 성능 분포
분석한 공간에서는 일부 연산만으로도 성능 범위의 상단에 가까운 구조를 만들 수 있었다. 성능이 높은 쪽에 후보가 많이 분포했고 합성곱과 특정 연산 조합의 영향이 크게 나타났다.
다른 공간으로의 일반화
이 결과는 해당 벤치마크와 자료 설정에서 관찰한 것이다. 연구는 한 자료에서의 탐색 결과만으로 방법의 우열을 판단하는 문제를 논의하고 다른 자료 및 과제로 비교 범위를 넓히는 평가 방향을 제시했다.
관련 문서
TransNAS-Bench-101 / NAS-Bench-Suite / NAS-Bench-101 / NAS-Bench-201 / FairNAS / BANANAS