위키득계정 ↗
기술

COMBO 질의응답

COMBO 질의응답기술
연구 공개
2023년
발표 학회
EMNLP 2023
결합 대상
검색 문단과 생성 문단
읽기 모델
FiD 기반
COMBO는 검색한 문단과 언어 모델이 생성한 문단을 함께 활용하는 개방형 질의응답 방법이다. 두 종류의 문맥이 서로 양립하는지를 고려해 답변에 사용할 조합을 만든다.

서로 다른 지식 경로

검색은 자료 집합에 없는 내용을 찾기 어렵고 생성 문맥에는 잘못된 내용이 들어갈 수 있다. COMBO는 두 경로를 함께 사용하되 서로 충돌할 가능성을 다루는 데 초점을 맞췄다.

문단을 짝짓는 기준

생성한 문단을 검색된 문단과 양립 가능한 쌍으로 연결한다. 단순히 많은 문단을 한꺼번에 넣기보다 함께 사용할 문맥의 관계를 먼저 판단한다.

판별기와 읽기 모델

호환성에 대한 실버 레이블로 학습한 판별기를 활용한다. 구성한 문단 쌍은 FiD 기반 읽기 모델에 전달돼 최종 답변을 생성하는 데 사용된다.

지식 충돌 조건의 평가

연구는 네 가지 개방형 질의응답 평가에서 비교 실험을 진행했다. 지식 충돌이 많은 조건도 별도로 분석했으며 두 경로가 일치한다는 사실만으로 답의 진실성이 보장되는 것은 아니다.

관련 문서

FiD / 검색 증강 생성 / Atlas 검색 증강 모델 / REALM / DPR / 언어 모델