위키득계정 ↗
기술

확산과 DINO 특징의 상보성

확산과 DINO 특징의 상보성기술
연구 공개
2023년
발표
NeurIPS 2023
원제
A Tale of Two Features
결합 대상
Stable Diffusion과 DINOv2 특징
확산과 DINO 특징의 상보성은 Stable Diffusion과 DINOv2의 특징을 결합해 이미지 의미 대응을 찾는 연구다. 공간 정보와 의미 일치에서 서로 다른 특성을 활용해 최근접 이웃 기반의 대응을 구성한다.

서로 다른 대응 특성

원 연구는 DINOv2가 성긴 대신 정확한 대응을, 확산 특징이 풍부한 공간 정보를 제공하는 경향을 관찰했다. 확산 특징은 의미적으로 잘못 연결하는 경우도 있어 두 표현의 장단점을 구분했다.

간단한 특징 결합

간단한 후처리를 거친 확산 특징과 DINO 계열 특징을 융합한다. 결합한 표현에서 최근접 이웃을 찾는 제로샷 방식으로 의미와 밀집 대응을 평가했다.

의미 대응과 이미지 조작

SPair-71k와 PF-Pascal 및 TSS에서 평가했다. 두 이미지의 인스턴스를 바꾸는 응용도 제시했으며, 생성 특징과 판별 표현이 서로 보완하는 성질을 조사한 접근이다.

관련 문서

DIFT / Diffusion Hyperfeatures / DINOv2 / 잠재 확산 모형 / DifFormer 시각 특징 융합 / ODISE