위키득계정 ↗
기술

NACLIP

NACLIP기술
초기 발표
2024년
학회 발표
WACV 2025
이름
Neighbour-Aware CLIP
설정
추가 학습 없는 의미 분할
NACLIP은 CLIP 비전 트랜스포머의 자기 어텐션에 지역적 위치 정보를 반영하는 개방 어휘 분할 방법이다. 별도 적응 자료나 보조 사전 학습 네트워크 없이 분할에 맞게 기반 모델을 활용한다.

영상 전체에서 픽셀로

CLIP의 영상 전체 인식 능력을 밀집 분할에 바로 옮기면 위치 정보가 충분하지 않을 수 있다. NACLIP은 각 패치의 지역적 위치를 자기 어텐션에 반영하는 문제에 집중한다.

이웃을 고려한 적응

비전 트랜스포머의 자기 어텐션에서 패치의 위치 대응을 강화한다. 분할에 유리한 구조적 선택으로 전체 영상 표현과 지역별 예측 사이의 간격을 줄이려 한다.

추가 자원의 범위

연구는 추가 자료와 보조 사전 학습 네트워크, 광범위한 초매개변수 조정을 요구하지 않는 구성을 제시했다. 이는 원래 CLIP을 학습하는 데 필요한 자료나 비용까지 없다는 뜻은 아니다.

벤치마크 평가

여덟 의미 분할 벤치마크에서 기존 방법과 비교했다. 개방 어휘 평가를 판단할 때는 새로 사용한 자료와 보조 모델, 적응 학습 여부를 함께 맞추어 비교해야 한다.

관련 문서

ResCLIP / SCLIP / ClearCLIP / CLIP / 영상 분할 / 제로샷 학습