집단마다 다른 성공 확률
이 문서에서는 r을 양의 정수, a,b를 양수로 둔다. 먼저 P를 베타분포 Beta(a,b)에서 뽑는다. P가 주어지면 각 시행은 같은 성공 확률 P를 사용하고 조건부로 독립이라고 가정한다. 한 집단의 실험 도중 매 시행마다 새로운 P를 뽑는 방식은 다른 모형이다. 베타 음이항분포는 집단 사이 성공 확률의 차이를 실패 횟수의 분포에 반영한다.
베타 함수가 들어가는 확률질량
K=k의 확률은 C(r+k−1,k)B(a+r,b+k)/B(a,b)다. B는 베타 함수이고 마지막 시행이 r번째 성공이라는 조건이 조합 계수에 반영된다. K는 총 시행 횟수가 아니라 실패 횟수다. 총 시행 횟수가 필요하면 r+K로 바꾼다. 예를 들어 실패가 3번이고 목표 성공이 2번이면 전체 시행은 5번이다.
작은 값의 계산 예
r=2,a=3,b=2이면 B(3,2)=1/12다. 실패가 0번일 확률은 B(5,2)/B(3,2)=(1/30)/(1/12)=2/5다. 실패가 1번일 확률은 2B(5,3)/B(3,2)=2×(1/105)×12=8/35다. 따라서 실패가 2번 이상일 확률은 1−2/5−8/35=13/35다. 유한한 몇 항의 합을 전체 확률 1로 정규화해서는 안 된다.
평균 성공 확률로 대체하면 달라진다
a>1이면 E[K]=rb/(a−1)이다. 앞의 예에서는 평균 실패 수가 2다. 반면 P의 평균 a/(a+b)=3/5를 고정 성공 확률로 쓰는 음이항분포의 평균은 r(1−P)/P=4/3이다. 성공 확률을 평균으로 바꾸는 것과 혼합분포의 평균을 계산하는 것은 같지 않다. 0<a≤1에서는 실패 수의 평균이 유한하지 않으며, 분포 자체가 정의된다는 사실과 모멘트의 존재는 구분한다.