최신 클래스의 편향
온라인 클래스 증가형 학습에서 소프트맥스 분류기는 최근 자료에 치우칠 수 있다. 연구는 기억 재생을 사용하더라도 남는 이런 편향에 주목했다.
클래스 평균에 가까운 분류
최근접 클래스 평균 분류기는 새로운 클래스마다 완전 연결 계층의 구조를 바꾸는 부담을 피한다. 여러 재생 방식에서 소프트맥스를 이 분류기로 바꾼 효과를 평가했다.
대조 학습을 통한 표현 정리
같은 클래스의 예시는 임베딩 공간에서 가깝게 모으고 서로 다른 클래스는 떨어뜨린다. 지도 대조 학습을 재생 과정에 사용해 클래스 평균 분류에 적합한 표현을 만든다.
온라인 망각의 평가
다양한 데이터셋에서 기존 지속 학습 방법과 비교했다. 핵심은 저장 표본의 재사용과 표현 공간의 클래스 분리를 함께 학습하는 구성이다.
관련 문서
ER-ACE / iCaRL / Dark Experience Replay / MIR 재생 표본 검색 / GEM 지속 학습 / A-GEM