성공한 규칙이 목적과 다를 때
시험 자료에서 정답과 함께 나타나는 단서가 실제 문제의 핵심과 일치하지 않을 수 있다. 가령 배경만으로 대상을 맞힌 모델은 배경이 바뀌면 실패할 수 있다.
점수만으로 드러나지 않는 차이
지름길은 표준 벤치마크에서는 높은 성능을 낼 수 있어 평범한 정확도 비교만으로 알아차리기 어렵다. 더 까다로운 조건이나 실제 상황으로 전이했을 때 다른 행동이 드러날 수 있다.
학습 시스템의 공통 문제
대표 종합 연구는 심층 학습의 여러 실패를 지름길 학습의 관점에서 설명했다. 비교심리학과 교육 및 언어학의 관련 현상도 논의해 인공 시스템만의 문제로 한정하지 않았다.
해석과 시험 조건의 설계
어떤 단서로 결정했는지 해석하고 조건을 바꿔 평가하는 것이 중요하다. 연구는 모델 해석과 벤치마크에 관한 권고를 제시하며 실험실 성능을 실제 환경으로 옮기는 문제를 다뤘다.
관련 문서
기계 학습의 과소명세 / CNN의 질감과 형태 편향 / 다양한 분포 변화의 견고함 / ImageNet 오염과 교란 평가 / ImageNet 자연 적대 예시 / 기계 학습