커널 계산의 부담
커널 기반 데이터 증류는 작은 집합을 만드는 데 활용될 수 있지만 정확한 커널 행렬 계산이 비쌀 수 있다. RFAD는 이 계산을 효율적으로 처리하려는 접근이다.
무작위 특징 근사
신경망 가우스 과정 커널의 무작위 특징 근사를 사용한다. 원 연구는 코어셋 크기에 대한 커널 행렬 계산량을 줄이는 알고리즘을 제시했다.
두 학습 설정
커널 회귀와 유한 폭 신경망 학습에서 합성 자료의 정확도를 평가했다. KIP 및 다른 응축 알고리즘과 비교해 근사에 따른 계산 효율과 학습 성능을 조사했다.
후속 분석의 활용
모델 해석과 개인정보 보존에 관련된 과제에서도 활용을 탐색했다. 이러한 응용 실험은 합성 자료가 자동으로 개인정보 보호를 보장한다는 뜻과는 구분된다.
관련 문서
KIP 데이터 메타 학습 / 데이터셋 증류 / FRePo / 기울기 정합 데이터 응축 / 분포 정합 데이터 응축 / 학습 궤적 정합 증류