위키득계정 ↗
기술

정수 이산 흐름

정수 이산 흐름기술
연구 공개
2019년
발표
NeurIPS 2019
약칭
IDF
변환
정수 사이의 전단사 사상
정수 이산 흐름은 순서가 있는 이산 자료를 정수 사이의 전단사 변환으로 모델링하는 생성 방법이다. 정수 이산 결합 층을 사용해 무손실 압축에서 양자화로 생길 수 있는 복원 오류를 다룬다.

연속 흐름과 압축

흐름 모형의 정확한 우도 최적화는 메시지당 기대 비트 수를 줄이는 목적과 연결된다. 그러나 연속 자료를 가정한 변환을 압축용으로 양자화하면 복원 오류가 생길 수 있다.

정수 공간의 가역 변환

IDF는 순서형 이산 자료를 직접 다루는 정수 전단사 변환이다. 정수 이산 결합이라는 변환 층을 구성 요소로 사용해 고차원 자료의 복잡한 관계를 학습한다.

무손실 압축의 평가

원 연구는 기존 흐름 기반 생성 모형과 비교하고 CIFAR10과 ImageNet32 및 ImageNet64에서 무손실 압축률을 평가했다. 생성 모형의 확률 표현과 실제 정보 보존을 함께 다룬다.

관련 문서

Real NVP / NICE 밀도 추정 / SurVAE Flows / 무손실 압축 / 엔트로피 부호화 / 확률 분포