경사 커널 가설
구조가 유도하는 경사가 수렴과 일반화에 관한 정보를 담는다는 관점에서 출발한다. 초기 경사를 하위 과제 학습의 거친 대리값으로 사용할 수 있다는 가설을 제안했다.
학습 손실과 성능의 관계
이론적 분석과 실용적인 커널 구성을 통해 학습 손실 및 검증 성능과의 상관을 조사했다. 후보를 완전히 학습하지 않고 구조 선택에 필요한 평가를 얻는 것이 목적이다.
이미지와 텍스트의 평가
이미지 분류에서 학습 후 평가 방식과 비용 및 정확도를 비교했다. 탐색한 신경망을 두 텍스트 분류 과제에서도 평가해 커널 기반 선택의 활용 범위를 살폈다.
관련 문서
TE-NAS / LGA 구조 평가 / Zen-NAS / 훈련 전 활성 기반 구조 탐색 / 경량 NAS의 무훈련 대리지표 / nasgraph