위키득계정 ↗
기술

BlenderBot

BlenderBot기술
초기 연구 공개
2020년
소형 모델
9천만 매개변수
중형 모델
27억 매개변수
대형 모델
94억 매개변수
BlenderBot은 지식과 공감 및 일관된 인물 설정을 함께 활용하는 개방형 대화 모델이다. 초기 연구는 모델 규모뿐 아니라 학습 자료와 응답 생성 전략이 대화 경험에 미치는 영향을 분석했다.

여러 능력의 조합

대화에서는 상대의 말을 듣고 관심을 끄는 주제를 제안하며 상황에 맞게 지식과 공감을 드러내야 한다. 초기 연구는 이런 능력과 일관된 인물 설정을 함께 학습하는 방법을 다뤘다.

자료와 생성 전략

모델과 학습 자료를 크게 만드는 것만이 구성 요소의 전부는 아니다. 적합한 학습 자료와 응답을 생성하는 전략의 선택이 여러 능력을 대화에서 발휘하는 데 중요하다고 보고했다.

여러 크기의 공개 모델

초기 논문은 9천만 개와 27억 개 및 94억 개 매개변수를 가진 구성을 제시하고 모델과 코드를 공개했다. 서로 다른 규모에서 같은 대화 학습 접근을 연구할 수 있도록 했다.

사람의 대화 평가

여러 턴 대화를 대상으로 흥미로움과 사람다운 정도를 사람에게 평가하게 했다. 논문은 기준 접근과의 비교뿐 아니라 모델이 실패하는 사례도 분석해 결과와 남은 한계를 함께 다뤘다.

관련 문서

BlendedSkillTalk / EmpatheticDialogues / PersonaChat / Wizard of Wikipedia / Meena 대화 모델 / DialoGPT