표본 응답 사이의 차이
모델이 알고 있는 개념은 여러 번 생성해도 비슷하고 일관된 사실로 나타날 수 있다는 생각을 이용한다. 반대로 환각이 있는 내용은 확률적으로 생성한 응답들 사이에서 달라지거나 모순될 수 있다.
블랙박스 접근
모델 내부나 전체 출력 확률을 직접 볼 수 없어도 여러 응답을 얻어 비교한다. 외부 지식 데이터베이스를 별도로 연결하지 않는 조건의 탐지 방법으로 제시됐다.
인물 소개로 평가하기
초기 연구는 WikiBio의 인물에 대해 GPT-3가 생성한 문단을 사람이 사실성 주석으로 평가했다. 문장별 비사실적 내용 탐지와 문단 전체의 사실성 순위화를 함께 살폈다.
일관성과 사실의 구분
여러 응답의 일관성은 탐지 단서이며 외부 근거를 통한 사실 확인과 같은 절차는 아니다. 모델이 같은 오류를 반복할 가능성까지 없앤다고 해석해서는 안 된다.