위키득계정 ↗
기술

Q-Align

Q-Align기술
학습 대상
다중모달 시각 평가 모형
감독 신호
텍스트로 정의한 이산 등급
점수 변환
등급 확률의 가중 평균
통합 모형
OneAlign
Q-Align은 다중모달 모형에 숫자 점수 대신 텍스트로 정의한 평가 등급을 학습시키는 시각 평가 방법이다. 이미지 품질과 미적 평가, 동영상 품질을 다루며 등급 확률로 세밀한 점수를 얻는다.

등급으로 학습하기

사람의 주관 평가에서 쓰는 언어적 등급에 주목한다. Q-Align은 연속적인 숫자 자체를 직접 생성하도록 가르치기보다 텍스트 등급을 학습하게 한다. 기존 다중모달 모형 구조에서 시각 평가를 학습하는 접근이다.

학습과 추론의 표현

학습 점수를 등급 구간에 대응시키고 사용 시에는 각 등급에 대한 예측 확률을 이용해 점수를 구한다. 등급이 몇 개로 나뉘어 있어도 최종 결과가 반드시 그 개수의 정수로만 제한되지는 않는다. 등급 표현과 확률을 이용한 수치 변환을 구분해야 한다.

여러 평가 과제

이미지의 기술적 품질과 미적 평가, 동영상 품질을 다룬다. 같은 학습 방식을 이용해 세 과제를 한 모형에 통합한 OneAlign도 제시한다. 하나의 구조를 쓴다고 서로 다른 과제의 점수가 동일한 의미를 갖는 것은 아니다.

확률 평균의 예

설명용 두 등급의 수치가 2와 4이고 확률이 각각 0.25와 0.75라면 가중 평균은 3.5다. 등급 사이의 값을 표현할 수 있음을 보여준다. 실제 등급 수나 모델 확률을 재현한 예가 아니며 이 값이 특정 자료의 사람 점수와 같다는 뜻도 아니다.

관련 문서

Q-Instruct / LIQE / CLIP-IQA / SLIQUE / DOVER / NIMA