위치 대신 값에 주목
최적점의 위치는 입력 공간의 차원을 갖지만 최댓값은 스칼라다. MES는 사후모델 아래에서 다음 관측이 이 스칼라의 불확실성을 얼마나 줄이는지 평가한다. 현재 예측 평균이 가장 큰 점을 단순히 관측하는 규칙이나 최적점 위치의 엔트로피를 직접 줄이는 규칙과 구별된다.
두 불확실성의 차이
개념을 보기 위한 이산 모형에서 두 가능한 함수가 (f(a),f(b))=(1,0)과 (0,1)이고 확률이 각각 절반이라고 하자. 최적점 위치는 불확실하지만 최댓값은 항상 1이다. 반대로 가능한 함수가 (1,0)과 (2,0)이면 최적점은 a로 같고 최댓값은 불확실하다. 이 예제는 값과 위치의 정보를 구별하기 위한 것이며 MES의 가우스 과정 계산식을 그대로 재현한 것은 아니다.
정보량으로 관측 선택
자료 D가 주어졌을 때 후보 x의 평가는 I(f*;Y_x|D)처럼 쓸 수 있다. 엔트로피 관점에서는 관측 전 f*의 엔트로피에서 관측 뒤 조건부 엔트로피의 기대값을 뺀다. 관측값 자체가 크게 출렁이는 점이라도 그 변화가 최댓값과 무관하다면 높은 정보 가치를 갖는다고 할 수 없다.
근사 계산과 해석
실제 계산에서는 최댓값의 사후 표본이나 근사분포를 이용한다. 원래 제안에는 검벨 분포 근사와 사후 함수 표본을 활용하는 방식이 포함된다. 근사의 정확도는 모델과 표본 전략에 영향을 받는다. 정보 획득 기준이 높은 점을 선택했다는 사실을 즉시 더 큰 함수값을 얻는다는 보장으로 해석하지 않으며, 관측 비용과 잡음도 함께 고려한다.