언어 모델과 작은 도구
큰 모델도 산술이나 사실 조회 같은 기본 기능에서 어려움을 겪을 수 있다. Toolformer는 이런 작업을 외부의 단순한 도구에 연결해 언어 모델의 능력과 결합하려 했다.
무엇을 언제 호출하는가
어떤 API를 사용할지뿐 아니라 호출할 때와 인자를 함께 학습한다. 도구를 사용할 수 있다는 사실과 필요한 순간에 올바른 방식으로 쓰는 능력을 구분해 다룬다.
결과를 다음 예측에 반영하기
외부 도구가 돌려준 값을 이후 토큰 예측에 어떻게 활용할지도 학습 대상이다. 도구 호출 자체를 끝으로 보지 않고 생성 과정에 결과를 결합한다.
시연과 다양한 도구
각 API에 대한 소수의 시연으로 자기 지도 학습을 수행했다. 초기 연구는 계산기와 질의응답, 두 검색 엔진, 번역 및 달력 같은 서로 다른 도구를 포함했다.
관련 문서
ReAct 추론과 행동 / DPR / 질의응답 / 언어 모델 / 기계 학습 / 자연어 처리