위키득계정 ↗
기술

복잡도 기반 프롬프팅

복잡도 기반 프롬프팅기술
연구 공개
2022년
영문 이름
Complexity-Based Prompting
입력 선택 기준
추론 단계의 복잡도
출력 선택 방식
복잡한 추론 경로의 답을 집계
복잡도 기반 프롬프팅은 여러 단계의 추론이 담긴 예시를 선택해 언어 모델에 제시하는 방법이다. 추론 단계가 많은 예시와 생성 결과를 활용하는 기준을 연구했다.

어떤 예시를 보여줄까

사고 사슬을 이용할 때는 중간 추론이 포함된 예시를 제시할 수 있다. 이 연구는 예시의 선택 기준으로 추론 단계가 얼마나 많은지를 살폈다.

입력에서 출력으로

복잡도 기준을 입력 예시 선택뿐 아니라 생성된 답을 고르는 과정에도 적용했다. 여러 추론 경로를 생성한 뒤 복잡한 경로에 해당하는 답들의 다수결을 사용한다.

문장의 길이와 추론

핵심은 장황한 문장을 무조건 선호하는 것이 아니라 중간 추론 단계에 따른 선택이다. 더 많은 단계를 썼다는 사실 자체가 개별 답의 정당성을 증명하지는 않는다.

다단계 과제의 비교

초기 연구는 GSM8K 등 수학 과제와 BIG-bench 계열의 일부 추론 과제에서 비교했다. 보고된 개선은 해당 모델과 예시 및 평가 조건에서 해석해야 한다.

관련 문서

사고 사슬 프롬프팅 / 자기 일관성 디코딩 / GSM8K / BIG-bench / Plan-and-Solve 프롬프팅 / 언어 모델