한 클래스씩 들어오는 자료
클래스 증분 학습에서는 같은 클래스의 예시가 묶여 순차적으로 들어올 수 있다. 일반적인 신경망 학습 가정에서 벗어나는 이런 자료 흐름에서 망각을 다룬다.
두 종류의 기억
최근 기억을 다루는 신경망에서 장기 저장을 위한 신경망으로 새 기억을 통합한다. 해마와 내측 전전두피질 및 수면 중 기억 통합에서 영감을 받은 인공 구조다.
회상할 체계의 선택
별도 모듈이 어느 기억 체계를 사용해 회상할지 결정한다. 이 모듈은 기저외측 편도체에서 영감을 받았지만 실제 구현은 생성 기반 기계 학습 모델이다.
이미지와 오디오의 평가
CIFAR-100과 CUB-200 이미지 분류 및 AudioSet 오디오 분류에서 평가했다. 과거 예시를 저장하지 않는 생성 모델의 증분 학습과 기억 효율을 살폈다.
관련 문서
심층 생성 재생 / iCaRL / Dark Experience Replay / 점진 신경망 / 탄력적 가중치 통합 / Learning without Forgetting