GP-UCB

낙관적인 예측으로 선택

현재 자료에 대한 가우스 과정 사후분포에서 평균 μ와 표준편차 σ를 구한다. 평균만 최대화하면 이미 좋아 보이는 부분에 집중하기 쉽고, 표준편차만 최대화하면 목표값과 무관한 곳을 탐색할 수 있다. GP-UCB는 두 항의 합이 가장 큰 지점을 선택하고 새 관측으로 사후분포를 갱신한다.

보너스에 따라 달라지는 예제

후보 A가 μ=1,σ=0.1이고 B가 μ=0.7,σ=0.5라 하자. β=4이면 점수는 A가 1.2, B가 1.7이므로 B를 고른다. β=0.25이면 각각 1.05와 0.95여서 A를 고른다. B의 평균은 낮지만 불확실성이 더 크므로 탐색 보너스에 따라 선택이 바뀐다. 이 수치는 점수의 역할을 보이는 예제이며 특정 이론의 β 설정 규칙은 아니다.

표준편차와 분산의 구별

점수에 더하는 값은 σ²가 아니라 σ다. β와 √β를 구별해야 하며 문헌에 따라 보너스 계수를 직접 다른 기호로 쓰기도 한다. 최소화 문제에서는 평균에서 불확실성 항을 뺀 하한 점수를 사용하는 형태로 바꿀 수 있다. 현재 점수가 높다는 사실이 실제 관측값도 반드시 높다는 뜻은 아니다.

후회 상계의 전제

원래 분석은 가우스 과정 사전이나 제한된 RKHS 노름, 잡음과 커널 등에 대한 가정 아래 누적 후회의 상계를 다룬다. 임의의 함수와 임의의 보너스 계수에서 같은 보장이 생기는 것은 아니다. 매 단계 획득 점수의 최대점을 찾는 문제도 비볼록할 수 있어, 내부 최적화의 정확도와 모델의 적합성을 함께 고려한다.