문서 둘러보기
Zero-Cost-PT
Zero-Cost-PT는 미분 가능한 구조 탐색에서 각 연산 선택을 평가하는 교란 기반 무훈련 대리지표 방법이다. 구조 전체의 점수와 선택 지점의 연산 점수를 구분하고 큰 탐색 공간의 평가를 다룬다.
LGA 구조 평가
LGA는 소량의 학습으로 신경망의 비선형 특성을 반영해 구조를 평가하는 신경 접선 커널 기반 지표다. 초기 상태의 지표만으로 학습 후 성능을 추정하는 접근의 한계를 재검토한다.
TE-NAS
TE-NAS는 신경 접선 커널의 스펙트럼과 입력 공간의 선형 영역 수로 구조를 평가하는 훈련 없는 탐색 방법이다. 학습 가능성과 표현력의 두 관점을 결합해 후보 구조를 고른다.
Zen-NAS
Zen-NAS는 무작위 초기 신경망에서 계산하는 Zen-Score로 구조를 고르는 탐색 방법이다. 주어진 추론 예산 안에서 점수를 높이는 구조를 찾으며 후보 가중치를 학습하지 않는다.
경량 NAS의 무훈련 대리지표
경량 NAS의 무훈련 대리지표는 한 미니배치의 자료로 후보 신경망의 점수를 계산해 구조 탐색 비용을 줄이는 연구다. 초기 가지치기 문헌의 측정법을 활용하고 학습 후 정확도의 순위를 얼마나 보존하는지 평가한다.
nasgraph
nasgraph는 신경망 구조를 그래프로 바꾸고 평균 차수를 평가 대리값으로 사용하는 구조 탐색 방법이다. 자료의 입력이나 후보 학습 없이 그래프 특성에서 구조의 유망함을 추정한다.
훈련 전 활성 기반 구조 탐색
훈련 전 활성 기반 구조 탐색은 초기 신경망에서 자료 사이 활성의 겹침을 측정해 구조의 학습 후 성능을 추정하는 방법이다. 후보를 반복 훈련하는 비용 없이 초기 상태의 신호로 탐색한다.
FairNAS
FairNAS는 공유 가중치 구조 탐색에서 후보 평가의 편향을 줄이려는 방법이다. 선택 블록이 훈련 기회를 고르게 갖도록 제약을 두어 공유 모형의 순위 평가를 개선한다.
SPOS 구조 탐색
SPOS는 후보 구조를 단일 경로로 표현하고 경로를 균일하게 뽑아 학습하는 원샷 신경망 구조 탐색 방법이다. 단순한 공유 모형으로 가중치의 공동 적응 문제를 줄이는 방향을 제시했다.
US-Net과 AutoSlim
US-Net과 AutoSlim은 하나의 신경망에서 폭을 조절하고 자원 제약에 맞는 채널 구성을 찾는 접근이다. 가변 폭 모형의 학습과 그 모형을 이용한 채널 탐색을 연결한다.
AttentiveNAS
AttentiveNAS는 공유 모형 학습에서 구조를 뽑는 전략을 개선하는 신경망 구조 탐색 방법이다. 균일 추출 대신 정확도와 계산량의 파레토 경계에 주목해 여러 효율 구간의 모형을 학습한다.
BigNAS
BigNAS는 하나의 공유 가중치에서 여러 크기의 신경망을 얻는 구조 탐색 방법이다. 탐색 뒤 개별 모형을 다시 훈련하거나 후처리해야 하는 비용을 줄이는 방향을 제시했다.
RepGhost
RepGhost는 특징 지도를 연결하는 연산 대신 재매개변수화로 특징 재사용을 구현하는 경량 합성곱 모듈이다. 이를 바탕으로 RepGhost 병목 블록과 RepGhostNet을 구성해 실제 모바일 효율을 평가했다.
FasterNet
FasterNet은 일부 입력 채널에만 공간 합성곱을 적용하는 부분 합성곱을 기반으로 한 시각 신경망이다. 연산 횟수뿐 아니라 실제 초당 연산량과 메모리 접근을 함께 고려해 속도를 설계한다.
EfficientViT 다중 규모 선형 어텐션
EfficientViT 다중 규모 선형 어텐션은 고해상도 밀집 예측을 위해 전역 수용 영역과 여러 규모의 학습을 결합한 시각 모형이다. 가벼운 연산으로 큰 입력의 계산 부담을 줄이는 방향을 제안한다.
MobileOne
MobileOne은 모바일의 실제 지연 시간을 중심으로 설계한 경량 시각 기반 모형이다. 학습 때 선형 분기를 사용하고 추론 때 단순한 구조로 합쳐 메모리 접근 부담을 줄인다.
EfficientViT 연쇄 그룹 어텐션
EfficientViT 연쇄 그룹 어텐션은 메모리 비효율과 어텐션 헤드의 중복 계산을 줄이는 시각 트랜스포머다. 전방향 신경망 사이에 자기 어텐션을 배치하고 헤드마다 나눈 특징을 전달한다.
FastViT
FastViT는 구조적 재매개변수화를 이용해 메모리 접근 비용을 낮추는 혼합형 시각 트랜스포머다. 토큰 혼합 연산인 RepMixer와 학습 시 과매개변수화 및 큰 커널 합성곱을 결합한다.
EfficientFormer
EfficientFormer는 실제 모바일 지연 시간을 기준으로 구성 요소를 검토하고 경량화한 시각 트랜스포머다. 차원이 일관된 구조를 설계한 뒤 지연 시간 중심의 슬리밍으로 여러 크기의 모형을 만든다.
RepViT
RepViT는 경량 비전 트랜스포머의 구조 선택을 모바일 합성곱 신경망에 적용한 모형 계열이다. MobileNetV3를 단계적으로 개선해 트랜스포머가 아닌 순수 경량 CNN으로 구성한다.
Hiera 시각 트랜스포머
Hiera는 마스크 오토인코더 사전 학습을 활용해 시각 전용 부품을 줄인 계층형 트랜스포머다. 마스크 단위 내부의 어텐션으로 초기 계산 부담을 낮추고 이미지와 영상 인식에 적용한다.
dBOT
dBOT는 무작위로 초기화한 교사에서 시작해 여러 단계로 마스크 지식 증류를 반복하는 시각 사전 학습 방법이다. 단계가 끝나면 학생의 가중치를 교사에게 옮기고 학생을 다시 초기화해 다음 증류를 진행한다.
BootMAE
BootMAE는 마스크 오토인코더에 모멘텀 인코더와 목표 인지 디코더를 더하는 자기지도 사전 학습 방법이다. 학습 중 얻은 특징을 예측 목표로 활용하고 인코더가 의미 표현에 집중하도록 구성한다.
HiViT
HiViT는 마스크 이미지 모델링에서 효율적으로 쓸 수 있도록 단순화한 계층형 비전 트랜스포머다. 가려진 단위를 제외하고도 표현을 순서대로 처리할 수 있게 단위 사이 연산을 조정한다.
CAE 문맥 오토인코더
CAE는 보이는 이미지 패치에서 가려진 영역의 표현을 예측하고 그 표현으로 패치를 복원하는 자기지도 모형이다. 인코더와 회귀기 및 디코더를 나누어 표현 학습과 복원 과제의 역할을 분리한다.
SimMIM
SimMIM은 이미지의 일부를 가리고 RGB 픽셀 값을 직접 회귀하는 마스크 이미지 모델링 방법이다. 무작위 마스킹과 단순한 예측 머리로 좋은 시각 표현을 배울 수 있는지 구성 요소별로 분석한다.
EVA 시각 표현 모형
EVA는 보이는 이미지 패치에서 가려진 언어 정렬 시각 특징을 예측하는 기반 모형이다. 후속 EVA-02는 같은 방향의 마스크 이미지 모델링과 트랜스포머 구조 개선으로 효율적인 표현 학습을 다룬다.
DINOv2와 DINOv3
DINOv2와 DINOv3는 다양한 자료와 과제에 활용할 시각 특징을 자기지도 학습하는 모형 계열이다. 자료 정제와 규모 확대를 다루며, 후속 DINOv3는 긴 학습에서 밀집 특징이 악화되는 문제를 보완한다.
MSN 마스크 샴 신경망
MSN은 일부 패치를 가린 이미지의 표현을 가리지 않은 원본 표현에 맞추는 자기지도 학습 방법이다. 비전 트랜스포머가 보이는 패치만 처리하도록 구성해 규모 확대와 적은 주석의 분류를 다룬다.
I-JEPA와 V-JEPA
I-JEPA와 V-JEPA는 픽셀을 복원하기보다 특징을 예측해 시각 표현을 학습하는 접근이다. I-JEPA는 이미지의 문맥에서 목표 영역 표현을 예측하고, V-JEPA는 영상 특징 예측을 독립적인 학습 목표로 사용한다.
StableRep와 SynCLR
StableRep와 SynCLR는 같은 문장에서 생성한 여러 이미지를 양성 쌍으로 사용하는 시각 표현 학습 방법이다. 합성 이미지를 대조 학습에 활용하며, SynCLR는 학습용 문장도 언어 모형으로 합성한다.
NADD
NADD는 확산 기반 적대적 정화에서 잡음의 크기를 높이는 방식을 연구한 방어 방법이다. 큰 잡음으로 입력이 왜곡되는 문제를 보정하고, 역방향에도 추가 잡음을 넣는 추출을 결합한다.
DiffPure
DiffPure는 확산 생성 모형을 이용해 분류 전 입력의 적대적 교란을 줄이는 정화 방법이다. 입력에 소량의 잡음을 더한 뒤 역방향 생성 과정을 거쳐 이미지 복원을 시도한다.
Diffusion Classifier
Diffusion Classifier는 텍스트 기반 이미지 확산 모형의 조건부 밀도 추정을 이미지 분류에 사용하는 방법이다. 이미지를 생성하는 용도에서 나아가 추가 훈련 없이 제로샷 분류에 활용한다.
RDC 강건 확산 분류기
RDC는 사전 학습 확산 모형의 우도 추정으로 입력을 조정하고 부류 확률을 계산하는 생성 분류기다. 특정 공격으로 훈련하는 방식과 구분해 여러 위협 조건에서의 강건성을 평가한다.
확산과 DINO 특징의 상보성
확산과 DINO 특징의 상보성은 Stable Diffusion과 DINOv2의 특징을 결합해 이미지 의미 대응을 찾는 연구다. 공간 정보와 의미 일치에서 서로 다른 특성을 활용해 최근접 이웃 기반의 대응을 구성한다.
Diffusion Hyperfeatures
Diffusion Hyperfeatures는 확산 모형의 여러 층과 시간 단계에 흩어진 특징을 픽셀별 표현으로 모으는 방법이다. 실제 이미지와 생성 이미지 모두에서 특징을 추출해 의미 대응에 활용한다.
DIFT
DIFT는 이미지 확산 모형에서 특징을 추출해 서로 다른 이미지의 대응점을 찾는 방법이다. 대응 과제의 주석이나 추가 미세 조정 없이 생성 모형에 내재한 표현을 의미와 기하 및 시간 대응에 활용한다.
DifFormer 시각 특징 융합
DifFormer 시각 특징 융합은 텍스트 조건 없이 학습한 이미지 확산 모형의 중간 표현을 판별 과제에 활용하는 방법이다. 여러 U-Net 블록과 잡음 단계의 특징을 어텐션으로 모으고 트랜스포머로 융합한다.
DIFFormer 그래프 인코더
DIFFormer는 사례 사이 정보 교환을 에너지 제약 확산으로 해석하는 신경 인코더다. 잠재 구조에서 표현의 전역 일관성을 나타내는 에너지가 감소하도록 상호작용을 구성한다.
DiffusionBERT
DiffusionBERT는 사전 학습 BERT를 이산 확산의 역방향 모형으로 활용하는 생성 언어 모형이다. 토큰 정보에 따른 잡음 일정과 시간 단계의 전달 방식을 설계해 마스크 기반 생성을 개선한다.
Plaid 언어 모형
Plaid는 확산 언어 모형의 우도 학습과 규모 확대를 연구한 모형이다. 최대우도 학습의 방법 개선과 계산량 배분을 함께 분석하고, 그 결과로 Plaid 1B를 학습했다.
SSD-LM
SSD-LM은 텍스트 블록을 반복 생성하는 반자기회귀 확산 언어 모형이다. 학습한 잠재 공간 대신 어휘의 심플렉스 공간에서 확산해 기존 분류기를 활용하는 모듈식 제어를 구성한다.
DiffuSeq
DiffuSeq는 입력 문장을 조건으로 출력 문장을 생성하는 확산 기반 시퀀스 변환 모형이다. 두 문장의 연속 표현을 연결하되 출력 쪽에만 잡음을 더하고, 입력을 유지한 채 조건부 복원을 학습한다.
GENIE 확산 언어 모형
GENIE는 인코더와 확산 디코더로 구성한 텍스트 생성 사전 학습 체계다. 손상된 문단에서 깨끗한 문단을 복원하는 목표로 학습하며, 잡음 시퀀스를 일관된 텍스트로 점차 바꾼다.
Block Diffusion 언어 모형
Block Diffusion은 이산 잡음 제거 확산과 자기회귀 언어 생성을 잇는 모형 계열이다. 토큰의 병렬 추출과 KV 캐시를 결합해 유연한 길이의 텍스트를 생성하고 추론 효율을 다룬다.
Diffusion-LM
Diffusion-LM은 연속 확산을 이용해 단어 벡터 시퀀스를 복원하는 비자기회귀 언어 모형이다. 중간 잠재 변수에 경사 기반 제어를 적용해 문장의 세밀한 속성과 구문 구조를 조절한다.
Dream 7B
Dream 7B는 반복 잡음 제거로 토큰 시퀀스를 병렬 정제하는 이산 확산 언어 모형이다. 자기회귀 언어 모형에서 초기화하고 문맥에 맞게 토큰별 잡음 일정을 조절하는 학습을 사용한다.
LLaDA
LLaDA는 자료를 마스킹하는 순방향과 마스크 토큰을 예측하는 역방향으로 학습한 대규모 확산 언어 모형이다. 처음부터 사전 학습한 뒤 지도 미세 조정을 수행해 언어 모형의 능력을 평가했다.
MD4
MD4는 마스크 확산 모형의 연속 시간 변분 목표를 교차 엔트로피 손실의 가중 적분으로 정리하는 체계다. 상태에 따라 다른 마스킹 일정을 갖는 일반화 모형도 같은 틀에서 학습한다.
MDLM
MDLM은 마스크를 사용하는 이산 확산 언어 모형의 학습 목표와 훈련 구성을 단순화한 연구다. 마스크 언어 모델링 손실의 혼합으로 목적을 표현하고, 인코더 전용 모형으로 효율적인 추출을 구성한다.
Argmax Flows와 다항 확산
Argmax Flows와 다항 확산은 범주형 자료를 생성하기 위해 제안된 두 접근이다. 전자는 연속 분포와 argmax를 연결하고, 후자는 범주형 잡음을 더한 뒤 제거하는 생성 과정을 학습한다.
SEDD
SEDD는 점수 맞추기를 이산 공간으로 확장하는 점수 엔트로피 손실을 사용하는 확산 모형이다. 자연어 같은 이산 자료의 생성에서 계산량과 품질을 조절하고 빈 구간을 조건에 맞게 채우는 방식을 다룬다.
D3PM
D3PM은 이산 상태 자료에 잡음을 주고 제거하는 확산 생성 모형 계열이다. 균일한 상태 전이뿐 아니라 구조를 가진 전이 행렬을 사용하며, 전이 설계가 생성 과정에 미치는 영향을 다룬다.
VQ-Diffusion
VQ-Diffusion은 VQ-VAE의 이산 잠재 표현에서 조건부 확산을 학습하는 텍스트 기반 이미지 생성 방법이다. 마스킹과 대체를 결합한 확산 과정을 사용해 일방향 자기회귀 생성의 편향과 오류 누적을 다룬다.
FVMD
FVMD는 핵심점 추적에서 얻은 움직임 특징으로 생성 영상의 운동 일관성을 평가하는 지표다. 특징 사이의 프레셰 거리를 이용하며, 시간적 잡음에 대한 민감도와 사람 판단과의 일치를 조사했다.
STREAM 영상 평가
STREAM은 생성 영상의 공간적 품질과 시간적 품질을 독립적으로 평가하는 지표다. 영상 임베딩만 바꾼 이미지 평가 방식의 한계를 분석하고 두 측면을 나눠 모형의 개선 지점을 살핀다.
FVD 내용 편향 분석
FVD 내용 편향 분석은 영상 생성 지표가 움직임보다 개별 프레임의 품질을 더 크게 반영하는지 조사한 연구다. 공간 품질과 시간 품질을 나누고 특징 추출 모형의 학습 방식이 주는 영향을 분석한다.
FVD 영상 생성 지표
FVD는 생성 영상의 품질과 시간적 일관성 및 다양성을 평가하려고 제안된 지표다. 정지 이미지의 외형뿐 아니라 장면이 시간에 따라 변하는 특성을 다루는 평가의 필요성에서 출발했다.
DEVIL 영상 동역학 평가
DEVIL은 생성 영상의 움직임 범위와 제어 가능성 및 움직임을 고려한 품질을 평가하는 체계다. 시간적 일관성만 높고 변화가 적은 영상과 문장이 요구한 동적인 영상을 구분해 측정한다.
FETV
FETV는 텍스트 기반 영상 생성을 내용과 제어 속성 및 문장 복잡도에 따라 나누어 평가하는 벤치마크다. 시간적 특성을 포함해 세부 능력을 비교하고, 자동 지표가 사람 판단과 일치하는지도 조사한다.
ChronoMagic-Bench
ChronoMagic-Bench는 시간에 따른 큰 변화와 시간적 연속성을 갖는 타임랩스 영상 생성을 평가하는 체계다. 변화가 거의 없는 선명한 영상과 실제 변화 과정을 표현한 영상을 구분해 살핀다.
VideoScore
VideoScore는 사람이 여러 측면에서 매긴 영상 점수로 자동 평가기를 학습하는 방법이다. Mantis에서 초기화한 모형을 VideoFeedback으로 학습해 사람의 세부 평가를 근사하도록 한다.
T2V-CompBench
T2V-CompBench는 여러 물체·속성·동작을 한 영상에 올바르게 결합하는 능력을 평가하는 벤치마크다. 7개 범주의 1400개 문장과 탐지·추적·멀티모달 언어 모형 기반 지표를 사용한다.
VideoPhy
VideoPhy는 생성 영상이 문장 조건뿐 아니라 물리적 상식도 따르는지 평가하는 벤치마크다. 서로 다른 물질의 상호작용을 담은 조건을 구성하고 사람 평가와 자동 평가를 함께 다룬다.
EvalCrafter
EvalCrafter는 텍스트 기반 영상 생성 모형을 여러 품질 측면에서 비교하는 평가 체계다. 700개 문장과 17개 객관 지표를 사용하고, 사람의 의견에 맞도록 지표 결합 계수를 학습한다.
VBench
VBench는 영상 생성 품질을 16개 세부 차원으로 나누는 평가 체계다. 각 차원에 맞는 문장과 측정 방법을 구성하고 사람의 선호 주석을 이용해 지표와 지각의 일치를 검토한다.
Wan 영상 생성
Wan은 확산 트랜스포머와 시공간 VAE를 결합하는 영상 생성 모형 계열이다. 영상 압축과 자료 정제 및 학습 규모 확대를 함께 다루며, 원 보고서는 13억 및 140억 매개변수 모형을 제시했다.
HunyuanVideo
HunyuanVideo는 시공간 압축 잠재 표현과 텍스트 조건을 결합하는 영상 생성 기반 모형이다. 인과적 3차원 VAE와 이미지·영상 공동 생성 구조, 대형 언어 모형의 문장 표현을 함께 사용한다.
CogVideoX
CogVideoX는 영상의 시공간 압축과 텍스트·영상 융합을 결합한 확산 트랜스포머 생성 모형이다. 3차원 VAE와 전문가 적응형 정규화, 점진적 학습 및 자료 처리 과정을 함께 설계했다.
VideoPoet
VideoPoet는 이미지·영상·텍스트·오디오를 처리하는 디코더 전용 트랜스포머 기반 영상 생성 모형이다. 여러 멀티모달 생성 목표를 자기회귀 학습으로 결합하고, 사전 학습한 모형을 과제에 맞춰 적응시킨다.
Lumiere
Lumiere는 영상 전체의 시간 구간을 함께 처리하는 Space-Time U-Net 기반 확산 모형이다. 드문 핵심 프레임을 먼저 만든 뒤 시간 보간하는 대신 여러 시공간 규모에서 영상의 움직임을 학습한다.
Stable Video Diffusion
Stable Video Diffusion은 잠재 영상 확산 모형의 학습 단계와 영상 자료 정제 방식을 연구한 생성 모형이다. 이미지 사전 학습과 영상 사전 학습 및 고품질 영상 미세 조정을 나누어 평가한다.
AnimateDiff
AnimateDiff는 개인화한 이미지 확산 모형에 움직임 모듈을 넣어 애니메이션을 생성하는 체계다. 같은 기반 모형에서 나온 개인화 모형 사이에 학습한 움직임 정보를 옮기며, 모형별 별도 조정을 줄인다.
Tune-A-Video
Tune-A-Video는 하나의 텍스트·영상 쌍으로 이미지 확산 모형을 영상 생성에 맞게 조정하는 방법이다. 시공간 어텐션과 단일 예제 조정을 결합하고, 생성 때에는 DDIM 역변환으로 구조 안내를 제공한다.
Text2Video-Zero
Text2Video-Zero는 사전 학습된 텍스트 기반 이미지 확산 모형을 추가 훈련 없이 영상 생성에 활용하는 방법이다. 프레임 잠재 표현에 움직임을 더하고 첫 프레임을 참조하는 어텐션으로 시간적 일관성을 보완한다.
VideoFusion
VideoFusion은 영상 프레임에 더하는 잡음을 공통 성분과 시간별 잔여 성분으로 나누는 확산 생성 방법이다. 모든 프레임에 독립적인 잡음만 쓰는 대신 내용의 중복과 시간적 상관관계를 반영한다.
Imagen Video
Imagen Video는 기본 영상 생성과 공간·시간 초해상도 확산 모형을 단계적으로 결합한 텍스트 기반 영상 생성 체계다. 문장으로 만든 초기 영상의 해상도와 시간 표현을 순차적으로 확장한다.
Video Diffusion Models 연구
Video Diffusion Models는 이미지 확산 구조를 영상으로 확장하고 이미지·영상 자료를 함께 학습하는 연구다. 시간적으로 일관된 생성을 다루며, 공간과 시간 방향으로 영상을 확장하는 조건부 추출도 제안했다.
Dreamix
Dreamix는 영상 확산 모형으로 입력 영상의 움직임과 외형을 텍스트에 맞춰 편집하는 방법이다. 원본의 낮은 해상도 시공간 정보와 새로 생성한 정보를 결합하고, 원본에 대한 미세 조정으로 세부 정보 보존을 보완한다.
Make-A-Video
Make-A-Video는 텍스트·이미지 쌍과 설명 없는 영상에서 얻은 정보를 결합하는 텍스트 기반 영상 생성 방법이다. 외형과 문장의 관계는 이미지 자료에서, 움직임은 영상 자료에서 학습해 텍스트·영상 쌍 없이 구성한다.
CLIP 잠재 표현의 계층 생성
CLIP 잠재 표현의 계층 생성은 문장에서 이미지 임베딩을 만든 뒤 그 표현을 이미지로 복원하는 두 단계 생성 접근이다. 의미·스타일 표현의 생성과 세부 픽셀 생성을 분리해 이미지 변형도 다룬다.
Imagen 이미지 생성
Imagen은 큰 언어 모형의 텍스트 이해와 확산 모형의 이미지 생성을 결합한 연구 모형이다. 텍스트 인코더의 크기가 생성 품질과 문장·이미지 일치도에 미치는 영향을 조사했다.
GLIDE 이미지 생성
GLIDE는 텍스트 조건에 따라 이미지를 생성하고 편집하는 확산 모형 연구다. CLIP 안내와 분류기 없는 안내를 비교하며, 이미지 손상 영역을 채우도록 미세 조정한 텍스트 기반 편집도 다룬다.
잠재 확산 모형
잠재 확산 모형은 사전 학습 오토인코더의 잠재 표현에서 확산 과정을 학습하는 이미지 생성 모형이다. 픽셀 전체를 직접 처리하는 부담을 줄이면서 세부 정보를 보존하는 압축 수준을 선택한다.
분류기 안내 확산
분류기 안내 확산은 확산 모형의 점수 추정에 이미지 분류기의 기울기를 결합하는 조건부 생성 방법이다. 안내 강도를 조절해 표본의 충실도와 분포를 덮는 다양성 사이의 균형을 바꾼다.
분류기 없는 확산 안내
분류기 없는 확산 안내는 조건부·무조건부 점수 추정을 결합해 생성의 안내 강도를 조절하는 방법이다. 별도의 이미지 분류기 없이 표본 품질과 다양성 사이의 균형을 바꿀 수 있다.
안내 확산 모형 증류
안내 확산 모형 증류는 조건부·무조건부 예측을 결합하는 안내 생성의 계산 비용을 줄이는 방법이다. 두 예측의 결합을 하나의 모형으로 학습한 뒤, 추출 단계 수도 점진적으로 줄인다.
확산 모형의 점진적 증류
확산 모형의 점진적 증류는 학습된 결정적 추출기를 더 적은 단계의 모형으로 옮기는 방법이다. 필요한 추출 단계 수를 절반으로 줄이는 증류를 반복하며, 적은 단계에서의 안정성을 위한 매개변수화도 함께 다룬다.
DPM-Solver
DPM-Solver는 확산 모형의 표본 추출을 위한 전용 고차 상미분방정식 해법이다. 해의 선형 부분을 해석적으로 처리하고 신경망이 포함된 적분을 근사해, 추가 학습 없이 생성에 필요한 함수 평가를 줄인다.
PNDM
PNDM은 확산 모형의 추출을 다양체 위 미분방정식 문제로 보고 기존 수치 방법을 변형하는 접근이다. 사전 학습 모형을 이용하면서 적은 추출 단계에서도 표본 품질을 유지하는 방향을 연구한다.
Flow Matching
Flow Matching은 정해진 조건부 확률 경로의 벡터장을 회귀해 연속 정규화 흐름을 학습하는 방법이다. 학습 중 흐름 전체를 수치 적분하지 않으며, 생성 때에는 학습한 벡터장을 상미분방정식 해법으로 따른다.
일관성 생성 모형
일관성 생성 모형은 잡음을 자료로 직접 대응시켜 한 단계 생성을 지원하는 모형 계열이다. 사전 학습 확산 모형에서 증류하거나 독립적으로 학습할 수 있으며, 여러 단계로 생성해 계산량과 품질을 조절할 수도 있다.
EDM 확산 설계 체계
EDM은 확산 생성 모형의 학습과 표본 추출에 얽힌 설계 선택을 나누어 분석하는 체계다. 점수 신경망의 전처리 조건과 학습·추출 방식을 함께 검토하며, 일부 변경은 이미 학습한 모형에도 적용한다.
Rectified Flow
Rectified Flow는 두 분포 사이의 이동을 상미분방정식으로 학습하는 방법이다. 표본 쌍을 잇는 직선 경로를 따르도록 회귀하고, 경로를 더 곧게 만들어 적은 추출 단계로 근사할 수 있도록 한다.
잡음 조건부 점수 신경망
잡음 조건부 점수 신경망은 서로 다른 잡음 수준에서 자료 분포의 점수를 학습하는 생성 접근이다. 점수는 로그 확률밀도의 기울기이며, 생성 때에는 잡음 수준을 낮춰 가며 랑주뱅 동역학으로 표본을 갱신한다.
점수 기반 확률 미분 생성
점수 기반 확률 미분 생성은 잡음을 더하고 제거하는 과정을 연속 시간의 확률 미분방정식으로 표현하는 생성 체계다. 시간별로 교란된 분포의 점수를 학습해 역시간 방정식으로 표본을 만든다.
DDIM
DDIM은 DDPM의 학습 목표를 유지하면서 표본을 만드는 경로를 바꾸는 생성 방법이다. 비마르코프 순방향 과정의 계열을 구성하고, 이에 대응하는 역방향 과정으로 계산량과 생성 품질의 균형을 조절한다.
DDPM
DDPM은 자료에 잡음을 점차 더하는 과정의 역방향을 학습하는 생성 모형이다. 잡음 수준별로 복원 방법을 익힌 뒤, 무작위 잡음에서 여러 단계를 거쳐 표본을 만든다.
JiT 이미지 트랜스포머
JiT는 픽셀 공간의 큰 패치를 처리하며 깨끗한 자료를 직접 예측하는 잡음 제거 생성 모형이다. 저차원 다양체 가정에 주목해 토크나이저나 사전 학습 없이 트랜스포머를 구성한다.