학생 입력의 변경
교사와 학생이 비슷한 구조로 원 영상을 함께 처리하면 이상에 대한 표현도 비슷해질 수 있다. 이 방법에서는 학생이 원 영상을 직접 받는 대신 교사가 만든 단일 클래스 임베딩을 입력으로 받는다.
높은 수준에서 낮은 수준으로
학생은 압축된 표현을 바탕으로 교사의 다중 규모 특징을 복원하도록 학습한다. 추상적인 높은 수준의 표현에서 낮은 수준의 특징으로 지식 전달이 진행된다는 점을 역방향 증류라고 부른다.
정상 정보를 남기는 병목
학습 가능한 단일 클래스 병목 임베딩 모듈을 두어 정상 패턴의 중요한 정보를 보존하고 이상 교란을 걸러 내도록 설계했다. 원 연구는 이상 탐지와 단일 클래스 신규성 탐지 벤치마크에서 방법을 평가했다.