위키득계정 ↗
기술

VCT 영상 압축

VCT 영상 압축기술
영문
Video Compression Transformer
대상
학습 영상 압축
특징 변환
프레임별 독립 매핑
의존성 모형
트랜스포머
VCT는 프레임별 표현 사이의 확률적 의존성을 트랜스포머로 학습하는 영상 압축 방법이다. 프레임을 독립적으로 표현으로 바꾼 뒤 과거 표현으로 다음 표현의 분포를 예측한다.

움직임 보상 이외의 접근

기존 학습 영상 압축망은 움직임 추정과 워핑 같은 요소를 조합하기도 한다. VCT는 이러한 구조적 가정을 줄이고 표현 사이의 관계를 트랜스포머로 학습하는 접근을 제안한다. 프레임을 독립 매핑해도 압축 전체가 프레임마다 독립이라는 뜻은 아니다.

미래 표현의 분포 예측

과거 표현이 주어졌을 때 다음 표현의 분포를 예측한다. 비슷한 영상 내용의 시간적 중복을 확률 모형에 반영하는 역할이다. 평균적인 다음 프레임을 생성하는 과제와 실제 전달할 값의 확률을 예측하는 과제는 구분할 수 있다.

조건부 확률의 예

설명용 실제 기호에 대한 모형의 확률이 문맥 없이 1/8이고 문맥을 쓴 뒤 1/2라면 이상적 코드 길이는 3비트에서 1비트로 줄 수 있다. 이는 확률 예측의 의미를 보여주는 예이며 실제 코덱의 비트 절약량은 아니다.

움직임과 실행 비용

합성 자료에서 이동과 흐림, 페이딩 같은 패턴을 학습하는지 평가한다. 실제 장면에서도 모든 변화가 같은 정도로 예측되지는 않는다. 비트율 및 화질, 문맥 길이에 따른 메모리와 인코딩 및 디코딩 시간을 같은 설정에서 비교한다.

관련 문서

HiFiC / DCVC / RLVC / 시간 문맥 마이닝 / 스케일 공간 흐름 / 영상 압축