실행 가능한 학습 자료
구조화된 표의 사전 학습에는 충분한 품질과 규모의 자료를 확보하는 문제가 있다. TAPEX는 실행 가능한 SQL과 그 실행 결과를 자동으로 생성해 학습 말뭉치를 구성한다.
실행기 동작 모방하기
언어 모델이 합성 자료를 통해 SQL 실행기의 동작을 흉내 내도록 학습한다. 질의의 문자열 형식만 배우는 대신 표를 대상으로 한 연산 결과를 예측하는 신호를 사용한다.
합성 프로그램의 역할
실행 가능한 프로그램은 입력에 대응하는 출력을 얻는 수단이 된다. 사람의 질문과 정답을 모두 수작업으로 모으는 방식과 다른 자료 생성 경로다.
표 관련 과제의 평가
연구는 WikiSQL과 WikiTableQuestions 및 SQA와 TabFact의 네 평가를 사용했다. 표 질의응답과 사실 판단처럼 서로 다른 과제에서 사전 학습의 효과를 비교했다.