안정성과 새 개념의 학습
제한된 기억을 사용하는 클래스 증가형 학습에서는 과거 지식의 안정성과 새 개념을 배우는 가소성을 함께 고려해야 한다. 연구는 두 단계 학습과 동적 표현 확장을 제시했다.
기존 표현에 새 차원 추가
매 증분 단계에서 이미 학습한 표현을 고정한다. 새로 학습하는 특징 추출기가 추가 특징 차원을 제공해 기존 지식을 유지하면서 새 시각 개념을 통합한다.
복잡도에 맞춘 용량
채널 수준 마스크 기반 가지치기로 새 개념의 복잡도에 따라 표현을 동적으로 확장한다. 보조 손실도 도입해 새 개념에 대한 다양하고 판별적인 특징 학습을 유도한다.
클래스 증가 조건의 평가
연구는 세 클래스 증가형 벤치마크에서 효과를 평가했다. 재생 로짓을 맞추는 동명의 다른 DER 연구와 달리 여기서의 핵심은 표현 차원의 확장이다.
관련 문서
Dark Experience Replay / 점진 신경망 / iCaRL / PODNet 증분 학습 / 종단간 증분 학습 / 대규모 증분 학습의 편향 보정