위키득계정 ↗
기술

Adaptive-RAG

Adaptive-RAG기술
연구 공개
2024년
발표 학회
NAACL 2024
선택 기준
질문의 복잡도
전략 범위
무검색과 단일 및 반복 검색
Adaptive-RAG는 질문의 복잡도에 따라 검색 없이 답하거나 한 번 또는 여러 번 검색하는 전략을 선택하는 질의응답 프레임워크다. 작은 언어 모델 분류기로 입력에 적절한 처리 경로를 결정한다.

모든 질문에 같은 전략을 쓰면

단순한 질문에 반복 검색을 적용하면 불필요한 계산이 늘 수 있다. 반대로 복잡한 질문을 한 단계로만 처리하면 필요한 여러 정보를 충분히 다루기 어렵다.

작은 분류기로 경로 선택

작은 언어 모델을 분류기로 학습해 들어온 질문의 복잡도 수준을 예측한다. 이 결과로 검색을 쓰지 않는 방식과 단일 검색 및 반복 검색 방식 중 적절한 전략을 고른다.

자동으로 모은 학습 레이블

분류기 학습에 쓰는 레이블은 모델이 실제로 예측한 결과와 데이터셋의 내재적인 특성에서 자동으로 수집했다. 복잡도별 전략 선택을 학습하는 절차와 최종 응답 생성의 역할을 나눈다.

효율과 정확도의 균형

여러 복잡도의 개방형 질의응답 자료에서 기준 방식과 비교했다. 연구는 모든 질문에 가장 무거운 절차를 적용하기보다 필요한 수준의 검색을 선택해 효율과 정확도를 함께 개선하려는 접근이다.

관련 문서

Self-RAG / CRAG 검색 보정 / FLARE 검색 증강 / 검색 증강 생성 / QReCC / 언어 모델