위키득계정 ↗
기술

사고 사슬 프롬프팅

사고 사슬 프롬프팅기술
최초 공개
2022년
영문 이름
Chain-of-Thought Prompting
주요 구성
소수의 중간 추론 예시
초기 평가 범위
산술과 상식 및 기호 추론
사고 사슬 프롬프팅은 답에 이르는 중간 추론 단계를 예시로 제시해 언어 모델의 문제 해결을 유도하는 방법이다. 최종 답만 보여 주는 예시와 달리 풀이의 전개를 프롬프트에 포함한다.

답 사이에 있는 단계를 표현하기

복잡한 문제는 여러 중간 판단을 거쳐 해결된다. 사고 사슬 프롬프팅은 이런 단계를 생성하도록 유도해 큰 언어 모델의 추론 능력을 활용하려는 접근이다.

풀이 예를 프롬프트에 넣기

몇 개의 풀이 사례를 예시로 제공한다. 모델을 새로 미세 조정하는 것과 달리 프롬프트의 예시 구성을 통해 추론 과제의 수행 방식을 바꾼다.

모델과 과제에 따른 결과

초기 연구는 세 가지 큰 언어 모델에서 산술과 상식 및 기호 추론을 평가했다. 충분히 큰 모델에서 얻은 개선을 분석했으므로 모든 크기의 모델에서 동일하게 작동하는 규칙으로 볼 수는 없다.

추론 방법의 비교 출발점

여러 풀이 경로를 종합하는 자기 일관성이나 풀이 예 없이 요청하는 제로샷 방식은 다른 조건의 접근이다. 중간 단계의 예를 주는지와 후보를 몇 번 생성하는지를 나누어 비교해야 한다.

관련 문서

자기 일관성 디코딩 / 제로샷 사고 사슬 / STaR 추론 학습 / GSM8K / CommonsenseQA / 언어 모델