복잡한 단계의 학습 문제
전체 과제가 어려워질 뿐 아니라 그 안의 개별 단계 자체를 익히기 어려울 수도 있다. 연구는 이런 단계를 별도의 하위 과제로 드러내 각각 처리하도록 했다.
각 부분에 맞는 프롬프트
하위 과제마다 전용 프롬프트를 개선할 수 있다. 필요한 경우 더 쉬운 문제로 다시 나누거나 학습한 모델과 기호 함수로 해당 부분을 교체하는 유연성을 갖는다.
긴 입력의 재귀적 분해
입력 길이 때문에 어려운 경우에는 같은 과제를 더 작은 입력에 적용하도록 재귀적으로 나눈다. 과제 종류를 나누는 분해와 입력 크기를 줄이는 분해를 함께 활용한다.
다단계 질의응답의 적용
초기 연구는 긴 문맥의 다중 단계 질의응답에서 하위 프롬프트를 따로 가르치는 방식을 평가했다. 개방형 질의응답에서는 기호적 정보 검색을 분해 체계에 넣는 방법도 비교했다.
관련 문서
Least-to-Most 프롬프팅 / QASC / HotpotQA / PAL 프로그램 보조 추론 / Toolformer / 언어 모델