어떤 정답을 먼저 물어볼까
능동 학습에서는 정답이 없는 후보 중 일부를 골라 사람 등에게 정답을 요청하고 학습 자료에 더한다. BALD는 현재 모형의 사후분포를 기준으로 정답을 알았을 때 매개변수 불확실성이 줄어드는 정도를 평가한다. 새 정답 하나가 모든 문제를 해결하거나 실제 정확도를 반드시 가장 크게 높인다는 뜻은 아니다.
두 엔트로피의 차이
점수는 I(Y;θ|x,D)=H(Y|x,D)−Eθ[H(Y|x,θ)]다. 첫 항은 모형을 평균한 예측의 불확실성이고 둘째 항은 각 모형 안의 예측 불확실성을 평균한 값이다. 각각의 모형은 확신하지만 서로 다른 답을 내놓을 때 두 값의 차이가 커질 수 있다.
같은 평균 확률의 다른 의미
두 모형을 같은 비중으로 고려하자. 첫 사례에서 두 모형이 모두 양성 확률 0.5를 주면 평균 예측 엔트로피와 모형별 평균 엔트로피가 각각 1비트여서 BALD는 0이다. 다른 사례에서 확률이 0.9와 0.1이면 평균은 여전히 0.5지만 점수는 1−H₂(0.9)≈0.531비트다. 평균 예측만 보면 같아도 정답에서 배울 정보량은 다르다.
근사와 선택 편향
몬테카를로 드롭아웃 등으로 매개변수 분포를 근사해 점수를 계산할 수 있다. 근사 분포가 부정확하면 점수의 해석도 그 영향을 받는다. 높은 점수의 입력이 실제로 정답을 붙일 수 있는 자료인지, 비용은 얼마인지도 별도 문제다. 한 번에 여러 입력을 고를 때 개별 점수만 합하면 같은 정보를 반복 선택할 수 있다.
관련 문서
몬테카를로 드롭아웃 / 상호 정보량 / 엔트로피 (정보 이론) / 베이즈 정리 / 딥 앙상블 / BatchBALD