위키득계정 ↗
기술

U2-Former

U2-Former기술
구조
중첩 U자 부호화 및 복호화
핵심 연산
트랜스포머
효율화
특징 필터링
학습 보조
다각도 대조 학습
U2-Former는 중첩된 U자 구조를 이용해 깊은 부호화 및 복호화 공간에서 이미지 복원을 수행하는 트랜스포머다. 특징 필터링으로 토큰 표현을 압축하고 대조 학습으로 열화 성분과 배경의 분리를 돕는다.

깊이와 척도의 연결

이미지 복원에서는 층을 깊게 쌓는 것뿐 아니라 다른 척도의 특징 사이에서 정보가 전달되는 방식도 중요하다. U2-Former는 중첩된 U자 구조로 서로 다른 깊이와 척도 사이의 상호작용을 돕는다. 트랜스포머를 깊은 부호화 및 복호화 과정의 중심 연산으로 사용한다.

토큰 표현의 압축

자기 주의 기구의 계산 부담을 줄이기 위해 기본 블록에 특징 필터링을 도입한다. 토큰 표현을 압축하는 방식이다. 압축은 처리 비용과 표현력을 함께 고려해야 하며 작은 표현을 쓴다는 이유만으로 모든 세부가 그대로 유지된다고 보장할 수 없다.

대조 학습의 역할

일반적인 복원 감독 신호 외에도 여러 측면의 대조 학습을 수행한다. 목표는 잡음 성분과 배경 영상의 분리를 돕는 것이다. 반사 제거와 빗줄기 제거, 안개 제거에 대한 실험을 다루며 각각의 열화 조건을 구분해 평가한다.

정보 통로와 복원 결과

설명용 흐름에서 작은 척도의 특징은 넓은 구조를, 큰 척도의 특징은 가는 선을 표현한다고 가정할 수 있다. 둘이 소통할 통로가 없다면 한쪽 정보만으로 판단하기 쉽다. 이 예는 다중 척도 연결의 필요성을 설명하며 실제 층별 기능이나 완전한 분리 표현을 보장하지 않는다.

관련 문서

UHDformer / Uformer / Restormer / MPRNet / HINet / NAFNet