위키득계정 ↗
기술

CLIP-IQA

CLIP-IQA기술
관련 논문
Exploring CLIP for Assessing the Look and Feel of Images
기반
CLIP
대상
품질 및 추상 지각 평가
주요 요소
프롬프트 쌍
CLIP-IQA는 이미지와 텍스트의 관계를 학습한 CLIP을 이용해 영상의 품질과 추상적인 인상을 평가하는 방법이다. 서로 대비되는 프롬프트 쌍으로 시각 언어 사전 정보를 활용한다.

시각 언어 사전의 활용

잡음이나 흐림을 수치로 표현하는 것과 사람이 쓰는 언어로 인상을 설명하는 것은 다르다. CLIP-IQA는 대규모 이미지 텍스트 학습에서 얻은 사전 정보를 지각 평가에 활용한다. 원래 CLIP의 학습이 없었다는 뜻은 아니다.

대비되는 문구의 설계

효과적인 프롬프트 설계와 짝을 이루는 전략을 연구한다. 품질이나 추상 인상과 관련된 문구에 이미지가 얼마나 대응하는지 비교한다. 선택한 문구가 다르면 측정하려는 성질도 달라질 수 있다.

평가 질문의 차이

설명용으로 선명한가라는 질문과 밝은가라는 질문은 서로 다른 성질을 묻는다. 선명하면서 어두운 영상도 있을 수 있다. 하나의 언어 점수가 모든 품질 축을 대신하지 못한다는 예이며 실제 모델의 고정 프롬프트를 인용한 것은 아니다.

제로샷 평가의 해석

제로샷 방식으로 품질 및 인상 평가를 연구하고 통제 자료와 품질 벤치마크에서 확인한다. 언어 기반 평가가 작은 글자의 정확성이나 원본 일치를 보증하지는 않는다. 프롬프트 및 모델 조건을 기록하고 참조 기반 지표와 시각 검사를 함께 사용해 결과를 해석한다.

관련 문서

LIQE / MUSIQ / MANIQA / LPIPS / DISTS / CLIP