과거 자료 접근의 제약
과거 자료를 모두 재생하면 망각을 줄일 수 있지만 기억 비용이 커진다. 실제 응용에서는 과거 자료를 다시 사용할 수 없다는 제약도 있을 수 있다.
협력하는 두 모델
깊은 생성 모델은 과거 과제의 자료를 표본화한다. 과제 해결 모델은 이런 자료와 새 과제의 자료를 이용해 능력을 유지하고 확장한다.
새 자료와 생성 표본의 혼합
저장한 과거 원본을 그대로 불러오는 대신 생성한 과거 과제 표본을 새 학습 자료 사이에 섞는다. 원 연구는 생성기와 해결기의 협력 구조로 이 과정을 구성했다.
순차 이미지 분류의 평가
연구는 이미지 분류를 포함한 여러 순차 학습 설정에서 방법을 평가했다. 중심은 과거 자료 전체의 보관을 요구하지 않는 생성 기반 재생이다.
관련 문서
FearNet / Dark Experience Replay / MIR 재생 표본 검색 / iCaRL / GEM 지속 학습 / Learning without Forgetting