자기 훈련 분류

의사 라벨의 반복

처음에는 알려진 라벨로 기본 분류기를 학습한다. 아직 라벨이 없는 표본에 범주와 점수를 예측한 뒤 기준을 만족하는 표본을 임시 라벨과 함께 추가한다. 다시 학습하고 선택을 반복하며 새 표본이 더 이상 추가되지 않거나 정해진 반복 한도에 도달하면 멈출 수 있다.

문턱과 개수의 차이

세 미라벨 표본의 최고 범주 확률이 0.93,0.78,0.55라고 하자. 0.8을 초과하는 표본만 추가하는 규칙은 첫 표본 하나를 고른다. 높은 점수 두 개를 고르는 규칙은 첫째와 둘째를 선택한다. 두 방식은 같은 선택이 아니며 점수에 대한 신뢰도와 학습량의 절충도 달라진다.

확신과 정답은 다르다

모형의 높은 확률이 실제 정답을 보장하지 않는다. 잘못된 임시 라벨을 반복해서 학습하면 처음의 오류를 강화할 수 있다. 예를 들어 올바른 라벨 80개에 임시 라벨 20개를 더했는데 그중 5개가 틀렸다면, 자료 수는 100개로 늘지만 새 부분의 오류율은 25퍼센트다. 단순히 라벨 수가 늘었다고 품질도 좋아졌다고 볼 수 없다.

평가 자료의 분리

확률 문턱을 쓰면 기본 모형의 확률 보정 상태를 검토해야 한다. 미라벨 자료가 초기 자료와 다른 분포인지도 살핀다. 최종 성능을 평가할 정답 자료를 의사 라벨 선택이나 문턱 조정에 섞지 않고, 초기 지도 학습만 한 기준 모형과 비교한다. 모든 표본에 임시 라벨을 붙이는 것이 목표 그 자체는 아니다.