위키득계정 ↗
기술

일대나머지 분류

일대나머지 분류기술
영문명
One-vs-rest classification
약칭
OvR
학습 문제
각 범주 대 나머지 전체
대표 구성
범주별 이진 분류기
일대나머지 분류는 여러 범주를 각각 해당 범주와 나머지 범주들의 이진 문제로 나누어 학습하는 전략이다. 범주별 분류기의 점수를 결합해 다중 범주 예측을 만들 수 있다.

세 범주의 분해

범주가 A,B,C이면 A 대 B와 C, B 대 A와 C, C 대 A와 B의 세 문제를 만든다. 원래 A 표본은 첫 문제에서 양성이고 나머지 두 문제에서는 음성이다. 각 범주에 하나의 분류기를 대응시키므로 그 범주를 다른 전체와 구별하는 특징을 살펴볼 수 있다.

점수를 모으기

정답 범주가 하나인 문제에서는 범주별 점수를 비교해 하나를 선택할 수 있다. 예를 들어 같은 입력의 점수가 A=0.7, B=0.6, C=0.1이고 높은 점수를 고르는 규칙이면 A를 예측한다. 점수가 모두 양수라고 세 범주를 동시에 정답으로 선택하는 것은 아니다. 서로 다른 분류기의 점수 규모와 보정 방식도 중요하다.

다중 라벨과의 구분

표본에 A와 B가 동시에 붙을 수 있는 다중 라벨 문제에서는 라벨별 이진 문제를 독립적으로 학습하는 방식으로 활용할 수 있다. 이때는 각 라벨을 문턱값과 비교해 여러 개를 선택할 수 있다. 라벨별 확률의 합이 반드시 1일 필요도 없다. 이는 하나의 범주만 고르는 다중 범주 문제와 다른 결합 규칙이다.

불균형과 검증

범주가 많거나 드문 범주가 있으면 한 이진 문제의 양성은 적고 음성이 많아질 수 있다. 범주별 성능과 가중치, 문턱값을 검토해야 한다. 같은 자료 분할과 전처리 규칙을 유지하고 최종 결합 결과도 별도 평가한다. 이진 분류기를 여러 개 만들었다고 라벨 간 의존성이나 확률 보정이 자동으로 해결되는 것은 아니다.

관련 문서

선형 서포트 벡터 분류 / 퍼셉트론 / 범주형 나이브 베이즈 / 재현율 / 정밀도 (분류) / 해밍 손실 / 기계 학습