규모와 대화 품질
공개 대화와 웹 문서로 사전 학습했으며 모델 크기를 늘리는 효과를 살폈다. 규모 확대는 대화 품질에 도움이 됐지만 안전성과 사실적 근거에서는 개선이 상대적으로 작았다.
후보 응답의 분류
사람이 주석한 자료로 미세 조정한 분류기를 이용해 응답 후보를 걸러 내는 방법을 연구했다. 유해한 제안과 부당한 편향 등을 줄이는 기준을 정하고 그 기준에 따른 응답 특성을 측정했다.
외부 지식의 활용
검색 시스템과 번역기 및 계산기 같은 외부 수단을 참고하도록 구성했다. 그럴듯한 문장을 만드는 것에서 더 나아가 확인할 수 있는 정보에 근거하는 응답을 목표로 했다.
역할과 유용성 평가
사실적 근거의 정도를 별도로 평가하고 교육과 콘텐츠 추천 분야의 활용도 탐색했다. 응답의 유용성과 맡은 역할의 일관성을 함께 분석해 대화 품질의 여러 측면을 구분했다.
관련 문서
Meena 대화 모델 / DialoGPT / Wizard of Wikipedia / 검색 증강 생성 / 언어 모델 / 트랜스포머