위키득계정 ↗
기술

TAPAS

TAPAS기술
연구 공개
2020년
발표 학회
ACL 2020
기반 구조
BERT 확장
답 예측 방식
셀 선택과 선택적 집계
TAPAS는 논리 형식을 별도로 생성하지 않고 표의 셀을 선택해 자연어 질문에 답하는 모델이다. 필요할 때 선택한 셀에 집계 연산을 적용하는 방식으로 답을 예측한다.

논리 형식 없이 답하기

표 질의응답은 중간 단계로 논리 형식을 생성한 뒤 실행할 수 있다. TAPAS는 그 중간 형식을 생성하지 않고 표의 셀과 집계 연산으로 답을 예측하는 접근이다.

약한 감독의 활용

정답 논리 형식을 모두 수집하는 대신 질문에 대한 답을 중심으로 학습한다. 자세한 질의 주석의 수집 비용을 줄이려는 약한 감독 설정을 다룬다.

텍스트와 표의 사전 학습

표를 입력으로 인코딩하도록 BERT의 구조를 확장했다. 텍스트 구간과 표를 함께 사전 학습한 뒤 전체 모델을 종단 간 방식으로 학습한다.

과제 사이의 전이

연구는 세 가지 의미 분석 데이터셋으로 평가하고 WikiSQL에서 WikiTableQuestions로 전이하는 조건도 비교했다. 표의 셀 선택 구조와 학습 자료의 전이 효과를 나눠 살펴볼 수 있다.

관련 문서

TaBERT / BERT / Seq2SQL / Spider SQL 평가 / 자연어 처리 / 기계 학습