위키득계정 ↗
기술

MoCE-IR

MoCE-IR기술
전문가 구성
서로 다른 복잡도와 수용 영역
배분 방향
낮은 복잡도 선호
적용 과제
통합 이미지 복원
효율화 대상
입력과 무관한 전문가 실행
MoCE-IR는 계산 복잡도와 수용 영역이 다른 전문가 블록을 사용해 이미지 복원에 필요한 처리를 선택하는 방법이다. 더 단순한 전문가를 선호하는 방향으로 과제 배분을 유도하며 불필요한 전문가의 실행을 줄이려 한다.

같은 크기의 전문가가 갖는 한계

통합 복원에는 여러 손상에서 공유되는 처리와 특정 과제에 필요한 처리가 있다. 전문가를 모두 동일한 구조로 만들면 어떤 전문가는 여러 과제에 쓰이고 다른 전문가는 의도한 과제도 충분히 처리하지 못하는 불균형이 생길 수 있다.

복잡도가 다른 블록

MoCE-IR는 계산 복잡도와 수용 영역이 서로 다른 유연한 전문가 블록을 둔다. 전문가 수만 늘리는 대신 처리 규모 자체에 차이를 두는 구성이다. 손상 이름만으로 필요한 계산량을 미리 확정하지 않는다.

단순한 경로를 선호하기

낮은 복잡도를 선호하도록 과제를 실행하는 방식으로 필요한 복잡도의 전문가에 과제가 배분되도록 유도한다. 추론에서 무관한 전문가를 건너뛸 수 있게 하는 목표다. 모든 입력이 가장 작은 전문가만 사용한다는 뜻은 아니다.

계산 배분의 독립 예

설명용으로 약한 점 잡음과 넓게 번진 움직임 흔적을 같은 크기의 처리로만 다룰 필요는 없다. 다만 겉보기에 단순한 입력에도 보존하기 어려운 가는 선이 있을 수 있다. 실제 실험 수치가 아닌 계산 배분과 복원 난도의 구분이다.

관련 문서

DaAIR / LoRA-IR / ABAIR / AdaIR / PromptIR / FAPE-IR