텍스트만으로 부족한 과제
자유로운 자연어 텍스트로 학습한 표현만으로는 표를 대상으로 하는 질문을 다루기 어려울 수 있다. 질문의 의미뿐 아니라 구조화된 표의 정보도 추론에 필요하기 때문이다.
문장과 표의 공동 표현
TaBERT는 자연어 문장과 구조화되거나 반구조화된 표의 표현을 함께 학습한다. 텍스트를 이해하는 모델에 표의 구조를 다루는 학습을 연결하는 방향이다.
의미 분석기의 특징 표현
학습한 모델을 신경 의미 분석기의 특징 표현 계층으로 사용했다. TaBERT가 표현을 제공하는 역할과 그 표현을 이용해 질의를 만드는 분석기의 역할을 구분할 수 있다.
표 질의응답과 SQL 평가
연구는 약한 감독의 WikiTableQuestions와 자연어 SQL 변환의 Spider에서 평가했다. 두 과제는 질문과 표를 함께 다루지만 학습 신호와 최종 출력의 조건이 다르다.
관련 문서
TAPAS / Spider SQL 평가 / RAT-SQL / BERT / SQL / 자연어 처리