어느 집단의 값이 더 큰가
이 문서에서는 Y가 X보다 클 확률에 동점의 절반을 더한 p를 사용한다. p=1/2는 X가 더 큰 경우와 Y가 더 큰 경우의 확률이 균형이라는 뜻이다. 모든 값이 같은 분포에서 나왔다는 주장이나 두 모집단 평균이 같다는 주장과 동일하지 않다. 표본 크기가 달라도 적용할 수 있지만 각 관측의 독립성과 비교 모형은 확인해야 한다.
관측 쌍을 세는 예
X=(0,2),Y=(1,3)에서는 네 교차 비교 중 X<Y가 세 번이므로 상대 확률의 표본값은 3/4다. X=(0,1),Y=(1,2)에서는 세 번이 작고 한 번은 같아 (3+1/2)/4=7/8이다. 이는 효과량의 계산 예다. 두 관측씩 있는 이 자료에 대한 근사 검정의 유효성이나 유의확률을 계산한 예는 아니다.
분포가 달라도 귀무가설은 성립할 수 있다
X가 −1과 1,Y가 −2와 2를 각각 같은 확률로 갖는 독립 확률변수라 하자. 네 조합 중 X<Y와 X>Y가 각각 두 개이므로 p=1/2다. 하지만 두 분포는 값의 범위와 분산이 다르다. 따라서 분포 전체의 일치 여부를 보는 두 표본 적합도 검정과 이 검정의 귀무가설을 바꾸어 읽으면 안 된다.
통계량과 효과량의 구별
검정은 상대 효과의 변동을 반영한 표준화 통계량을 사용하며,그 숫자 자체가 p라는 효과량은 아니다. 유의확률은 t 또는 정규 근사를 사용해 평가할 수 있고 작은 표본에서는 근사의 적절성에 주의한다. 분포 모양이나 분산이 다를 수 있다는 점이 모든 형태의 의존 관측까지 허용한다는 뜻은 아니다. 집단 순서를 바꾸면 대립가설의 방향도 함께 확인한다.
관련 문서
맨 휘트니 U 검정 / 순위 / 비모수 검정 / 에프스 싱글턴 검정 / 귀무가설 / 효과 크기