위키득계정 ↗
기술

HyDE 검색

HyDE 검색기술
연구 공개
2022년
영문 이름
Hypothetical Document Embeddings
주요 과제
제로샷 밀집 검색
중간 표현
가상 문서의 임베딩
HyDE는 언어 모델이 만든 가상 문서를 임베딩한 뒤 실제 문서 집합에서 유사한 자료를 찾는 검색 방법이다. 관련성 레이블이 없는 제로샷 밀집 검색을 목표로 제안됐다.

가상 문서를 만들기

질문에 대해 지시를 따르는 언어 모델로 가상 문서를 생성한다. 이 문서는 관련성의 패턴을 담는 중간 자료이며 실재하는 근거 문서가 아니고 잘못된 세부 내용이 들어갈 수 있다.

문서를 벡터로 변환하기

비지도 대조 학습 인코더로 생성 문서를 임베딩한다. 연구는 Contriever 같은 인코더를 활용해 생성된 글을 실제 문서의 임베딩 공간에서 비교할 수 있는 벡터로 바꿨다.

실제 자료를 검색하기

벡터 유사도로 실제 문서 집합에서 가까운 자료를 찾는다. 최종 검색 대상은 가상 문서가 아니라 실제 코퍼스이며, 생성 단계와 근거 자료를 찾는 단계의 역할은 구분된다.

레이블 없는 조건의 평가

논문은 관련성 레이블이 없는 조건에서 웹 검색과 질의응답 및 사실 검증 등을 평가했다. 한국어와 일본어 및 스와힐리어를 포함한 여러 언어에서도 검색 성능을 살폈다.

관련 문서

Query2doc / ConvGQR / Contriever / DPR / 검색 증강 생성 / QReCC