하나의 모델 안의 앙상블
TabM은 한 입력에 대해 여러 예측을 생성해 MLP 앙상블을 모방한다. 구성 요소는 동시에 학습되며 기본 설정에서는 대부분의 모수를 공유해 개별 모델을 따로 학습하는 앙상블과 구분된다.
예측의 결합
연구는 각 예측의 성능과 여러 예측을 함께 사용할 때의 성질을 분석했다. 실험에서는 개별 예측이 약하더라도 집합적으로는 강한 성능을 낼 수 있음을 관찰했다.
성능과 효율의 평가
공개 벤치마크에서 어텐션 및 검색 기반 구조를 포함한 표 자료 신경망을 과제 성능과 효율 양쪽으로 비교했다. TabM은 복잡한 본체를 추가하기보다 MLP의 효율적 앙상블을 발전시키는 기준선으로 제안됐다.
관련 문서
다층 퍼셉트론 / 앙상블 학습 / TabR / FT-Transformer / NODE 표 자료 모델 / TabNet