소수 예시를 캐시로
소수샷 학습 집합에서 키와 값의 캐시를 만든다. 별도의 어댑터를 반복 최적화하기보다 캐시 구조에서 필요한 가중치를 얻는 비모수적 구성을 제시했다.
학습이 없다는 말의 범위
기본 방식은 어댑터 학습의 역전파가 필요 없지만 표지된 소수 예시를 사용한다. 따라서 추가 최적화가 없는 것과 대상 자료의 예시를 전혀 보지 않는 제로샷 조건은 다르다.
미세 조정형 확장
캐시로 적절히 초기화한 어댑터를 몇 에포크 더 조정하면 성능을 높일 수 있다고 보고했다. 이 확장은 기본의 무역전파 방식과 학습 비용을 구분해 비교해야 한다.
평가 범위
논문은 ImageNet과 다른 열 데이터셋의 소수샷 분류에서 평가했다. 사용한 표지 예시 수와 미세 조정 여부를 맞춰야 서로 다른 적응 방식의 결과를 공정하게 비교할 수 있다.
관련 문서
CoOp와 CoCoOp / CALIP / CLIP / 소수샷 학습 / 캐시 / 미세 조정