위키득계정 ↗
기술

TabNet

TabNet기술
연구 공개
2019년
자료 유형
정형 표 자료
특징 선택
순차적 어텐션
추가 학습 구성
자기 지도 표현 학습
TabNet은 순차적 어텐션으로 단계마다 사용할 특징을 선택하는 표 자료 학습 모델이다. 특징 선택을 예측 과정에 포함해 학습 효율과 해석 가능성을 함께 다룬다.

단계별 특징 선택

TabNet은 각 결정 단계에서 어떤 특징을 사용해 추론할지 어텐션으로 선택한다. 중요한 특징에 학습 능력을 집중시키는 방식으로 표 자료의 예측을 구성한다.

특징 귀속과 모델 행동

연구는 해석 가능한 특징 귀속과 전체 모델의 행동을 이해하는 관점을 함께 제시했다. 여러 표 자료에서 다른 신경망과 결정 트리 변형을 비교해 예측 성능과 특징 선택을 평가했다.

표지가 없는 자료의 활용

표지가 없는 자료가 풍부한 조건에서 비지도 표현 학습을 이용한 자기 지도 학습도 조사했다. 원 연구는 이 사전 학습이 표 자료 과제의 성능에 미치는 영향을 평가했다.

관련 문서

NODE-GAM / 신경 가산 모델 / 신경 기저 모델 / 어텐션 / 자기 지도 학습 / 특징 선택