작은 모델의 과제
이미지 확대망은 출력 품질뿐 아니라 제한된 장치에서의 처리 비용도 중요하다. RFDN은 특징 추출과 잔차 학습을 가벼운 구조로 구성한다. 경량이라는 표현만으로 모든 장치에서 실시간으로 동작한다고 판단할 수는 없다.
특징 증류 연결
채널 분할을 이용하던 특징 증류 방식을 다시 살펴보고 더 유연한 특징 증류 연결을 제안한다. 여러 연결로 구별력 있는 표현을 학습하며 얕은 잔차 블록을 기본 요소로 사용한다. 여기서 특징 증류는 반드시 별도의 큰 교사 모델을 따라 학습하는 지식 증류와 같은 절차를 뜻하지 않는다.
가중치 크기의 예
설명용으로 가중치가 100만 개인 모델을 값마다 4바이트로 저장하면 순수 가중치는 약 400만 바이트다. 하지만 실행에는 중간 특징과 버퍼도 필요하다. 가중치 크기만으로 실제 메모리 사용량이나 처리 시간을 알 수 없다는 예이며 실제 RFDN의 매개변수 수는 아니다.
복잡도와 품질의 비교
단순 연산 수가 작아도 연산 종류나 메모리 접근에 따라 실제 실행이 느릴 수 있다. 같은 해상도와 확대 비율에서 시간을 비교해야 한다. 선명한 경계뿐 아니라 작은 질감과 색의 보존을 살피고 강화 변형과 기본 모델의 결과도 구분한다.