위키득계정 ↗
기술

HorNet

HorNet기술
연구 공개
2022년
핵심 연산
재귀 게이트 합성곱
연산 표기
gnConv
활용
시각 인코더와 과제별 디코더
HorNet은 재귀 게이트 합성곱으로 입력에 적응하는 장거리 고차 공간 상호작용을 만드는 시각 신경망이다. 자기 어텐션에서 다루는 상호작용의 성질을 합성곱 기반 구성으로 구현하려 한다.

합성곱으로 고차 관계 만들기

비전 트랜스포머의 입력 적응성과 장거리 및 고차 상호작용에 주목한다. 게이트 합성곱과 재귀적 설계를 결합해 여러 차수의 공간 관계를 다루는 연산을 제안했다.

기본 연산에서 백본으로

재귀 게이트 합성곱은 여러 합성곱 변형과 함께 사용할 수 있는 모듈이다. 이를 바탕으로 일반 시각 백본 계열인 HorNet을 구성했다.

인코더와 디코더의 평가

연구는 이미지 분류와 객체 검출 및 의미 분할에서 백본을 평가했다. 또한 과제별 디코더에 연산을 적용해 밀집 예측의 계산량과 성능을 조사했다.

관련 문서

FocalNet / DaViT / MaxViT / ConvNeXt / CoAtNet / UniNet 혼합 구조 탐색