합성 과정의 비용
작은 응축 자료로 모델을 학습하는 일은 빨라도 그 자료를 만드는 과정은 비쌀 수 있다. 복잡한 이중 수준 최적화와 이차 미분 계산이 합성의 부담으로 지적됐다.
여러 임베딩 공간
이 방법은 여러 표본 임베딩 공간에서 실제 영상과 합성 영상의 특징 분포를 맞춘다. 특징 표현에서의 분포 비교를 응축 자료 합성의 목표로 사용한다.
더 큰 설정의 평가
원 연구는 줄어든 합성 비용을 바탕으로 더 현실적이고 큰 자료와 복잡한 신경망 구조에 적용했다. 합성 단계의 효율과 결과 자료로 학습한 성능을 함께 조사했다.
제한된 자원의 활용
연속 학습과 신경망 구조 탐색에서도 활용을 평가했다. 원 집합을 작은 합성 집합으로 대체하려는 목적을 특징 분포의 정합으로 구현한 방법이다.
관련 문서
기울기 정합 데이터 응축 / 샴 증강 데이터 응축 / 데이터셋 증류 / 학습 궤적 정합 증류 / 생성 사전 기반 데이터 증류 / OpenDataVal