답과 확신을 함께 생성하기
연구는 질문에 대한 답과 확신 수준을 함께 출력하도록 모델을 학습했다. 로짓을 직접 사용하지 않고 자연어로 나타낸 확신을 확률에 대응시켜 실제 정답 여부와 비교한다.
표현된 확률과 내부 점수
언어로 표현한 불확실성과 로짓에서 추출한 불확실성의 보정 특성을 비교했다. 둘은 정보를 얻는 경로가 다르지만 모두 분포 변화에서 어느 정도 일반화할 수 있는지 살폈다.
변화한 조건의 시험
학습과 다른 분포에서도 확신과 정확도의 관계가 유지되는지 분석했다. 초기 연구는 모델이 사람 예시의 확신을 단순 모방하기보다 자신의 답의 불확실성에 반응하는 증거를 보고했다.
사전 학습 표현의 역할
논문은 보정의 일반화가 답에 관한 인식적 불확실성과 연관된 잠재 표현에 의존할 수 있다는 증거도 제시했다. 과제 모음은 답을 맞히는 능력과 확신을 적절히 표현하는 능력을 함께 비교하는 데 쓰였다.
관련 문서
언어 모델의 언어화된 확신 / 언어 모델의 자기 지식 예측 / 문맥 보정 프롬프팅 / 컨포멀 언어 모델링 / GSM8K / 언어 모델