위키득계정 ↗
기술

Self-Discover

Self-Discover기술
연구 공개
2024년
대상
복잡한 추론 과제
선택 단위
기본 추론 모듈
산출물
명시적인 추론 구조
Self-Discover는 언어 모델이 과제에 맞는 추론 요소를 선택하고 결합해 명시적인 추론 구조를 만드는 프레임워크다. 답을 생성할 때 따라갈 구조를 먼저 구성한다.

과제에 맞는 구조 찾기

같은 추론 절차가 모든 문제에 똑같이 적합한 것은 아니다. Self-Discover는 과제에 필요한 기본 추론 요소를 고르고 그 요소들의 사용 방식을 구성하는 접근을 제시했다.

모듈의 선택과 결합

비판적으로 검토하기나 단계적으로 생각하기 같은 추론 모듈을 여러 개 선택한다. 이를 하나의 명시적인 구조로 조합해 생성 과정에서 따르도록 한다.

다른 방법과의 비교

연구는 일반적인 사고 사슬과 여러 경로를 생성하는 자기 일관성 방식 등을 비교했다. 구조를 먼저 만드는 접근과 답 후보를 많이 생성하는 접근은 계산을 사용하는 위치가 다르다.

모델 간 적용의 평가

BigBench-Hard와 MATH 등으로 평가하고 한 모델에서 얻은 추론 구조를 다른 계열 모델에 적용하는 실험도 수행했다. 실험한 모델 사이의 적용 가능성이 모든 모델과 과제에서 같은 효과를 보장하지는 않는다.

관련 문서

사고 사슬 프롬프팅 / 자기 일관성 디코딩 / 복잡도 기반 프롬프팅 / Plan-and-Solve 프롬프팅 / MATH 수학 평가 / 언어 모델