엔트로피 탐색

최적점의 분포를 추적

미지의 함수에 대한 확률모델은 어느 위치가 최적점인지에 대한 분포도 유도한다. 엔트로피 탐색은 새 관측이 이 분포를 얼마나 더 집중시킬지 살핀다. 현재 예측 평균이 가장 좋은 점이나 관측값 자체의 분산이 가장 큰 점을 고르는 것과 일반적으로 다르다. 최적점이 어디인지와 최적값이 얼마인지도 구별한다.

정보가 있는 관측의 예제

최적점이 A 또는 B일 확률이 각각 절반인 이산 예제를 보자. 처음 위치 엔트로피는 1비트다. 한 관측이 어느 쪽인지 확률 0.9로 맞히는 대칭 신호라면, 관측 뒤 엔트로피는 −0.9log₂0.9−0.1log₂0.1≈0.469비트다. 기대 정보 증가는 약 0.531비트다. 위치와 독립인 신호는 같은 방식으로 엔트로피를 줄이지 못한다.

단순 예제와 실제 알고리즘

앞의 계산은 정보 선택의 개념을 보여 주는 두 후보 모형이다. 연속 입력 공간에서는 최적점 분포를 정확히 구하기 어려워 대표 지점과 근사 추론을 사용한다. 관측 결과를 아직 모르는 상태에서 여러 결과에 대한 사후 변화를 평균해야 하므로, 다음 지점을 고르는 계산도 상당한 비용을 가질 수 있다.

최댓값 엔트로피 탐색과 구별

ES가 위치의 불확실성에 주목하는 데 비해 MES는 최댓값이라는 스칼라의 불확실성을 사용한다. 두 기준은 같은 정보를 직접 최적화하지 않는다. 정보 획득이 큰 관측이라도 그 자리의 함수값이 즉시 개선된다는 보장은 없고, 한 단계 앞만 보는 선택이 긴 실험 예산 전체의 최적 정책이라는 뜻도 아니다.