위키득계정 ↗
기술

MG-CLIP

MG-CLIP기술
발표
2025년
학습 설정
클래스 증분 학습
첫 요소
모달리티 간격 보존
둘째 요소
새 자료를 위한 간격 보상
MG-CLIP은 CLIP 기반 클래스 증분 학습에서 모달리티 간격의 보존과 보상을 함께 사용하는 방법이다. 이전 지식을 유지하는 능력과 새로운 범주에 적응하는 능력을 조절하려는 목적을 갖는다.

범주가 순서대로 추가되는 학습

클래스 증분 학습에서는 새 범주의 자료를 차례로 받아들이면서 이전 범주도 계속 구분해야 한다. MG-CLIP은 미세 조정 중 영상과 텍스트 표현의 간격이 어떻게 바뀌는지에 주목한다.

간격과 지식 유지

논문은 모달리티 간격의 변화가 사전 학습 지식의 보존 정도를 반영한다고 관찰했다. 이 관계를 이용해 기존 지식의 망각을 줄이는 방향으로 간격을 보존한다.

새로운 자료의 수용

보존만으로 새 자료에 적응하는 문제가 모두 해결되지는 않는다. MG-CLIP은 모달리티 간격을 보상하는 요소를 결합해 새로운 자료를 학습하는 능력을 개선하려 한다.

리플레이 없는 평가

여러 벤치마크에서 추가 리플레이 자료 없이 기존 방법과 비교했다. 리플레이를 쓰지 않는 설정과 학습을 전혀 하지 않는 제로샷 설정은 다르며, 새 범주의 자료를 이용한 증분 학습이 이루어진다.

관련 문서

CLIP / 모달리티 간격 / 지속 학습 / 파국적 망각 / 미세 조정 / 제로샷 학습