기반 특징을 활용하는 기준
복잡한 지속 학습 구성 대신 사전 학습 모델의 표현을 바로 활용한다. 매개변수 갱신을 하지 않는 단순한 방식으로 일반 벤치마크의 성능을 비교하는 연구다.
대표 특징의 기억
자료를 정리하고 사전 학습 모델로 클래스 프로토타입을 계산해 기억 은행에 채운다. 저장하는 것은 새로 학습한 전체 신경망이 아니라 대표 특징이다.
최근접 프로토타입의 선택
추론 때 입력 특징과 가장 가까운 프로토타입을 최근접 이웃과 유사한 방식으로 찾는다. 이 규칙을 별도의 모델 최적화 없이 지속 학습 체계로 활용한다.
기반 모델과 평가의 영향
연구는 일반 합성곱 신경망과 비전 트랜스포머를 비교했다. 사전 학습 모델과 데이터셋 선택이 지속 학습의 진전 평가에 미치는 영향을 살피는 기준으로 제시됐다.
관련 문서
T3A / L2P / DualPrompt / S-Prompts / iCaRL / REMIND 지속 학습