미분 불가능한 구성 요소
연구는 층별 처리, 모형 내부 특징 변환, 충분한 복잡성이라는 관점에서 깊은 학습을 분석했다. 이를 결정 트리 같은 미분 불가능한 요소로 구현해 역전파 없는 깊은 모델을 탐색했다.
캐스케이드 숲
각 층은 앞 층에서 처리한 특징 정보를 받고 결과를 다음 층으로 전달한다. 숲을 연결한 캐스케이드 구조로 표현 학습을 수행하며 다중 세밀도 스캐닝으로 문맥과 구조에 대한 표현을 보완한다.
자료에 따른 복잡성
캐스케이드 수준을 자료에 따라 자동으로 결정해 모델 복잡성을 조정할 수 있다. 원 연구는 여러 과제에서 하이퍼파라미터 설정에 대한 강건성과 계산 비용을 평가했다.
관련 문서
랜덤 포레스트 / 의사 결정 트리 / 앙상블 학습 / 표현 학습 / XGBoost / 역전파