위키득계정 ↗
과학

분포 강인 최적화

분포 강인 최적화과학
영문명
Distributionally robust optimization
약칭
DRO
대표 목표
min 결정 sup 분포 E[손실]
핵심 입력
가능한 확률분포들의 집합
분포 강인 최적화는 불확실한 값의 확률분포를 하나로 확정하지 않고 가능한 분포들의 집합에서 가장 불리한 기대 손실을 최소화하는 방법이다. 유한한 자료로 추정한 분포가 실제와 다를 수 있다는 문제를 최적화 모델에 반영한다.

값의 불확실성과 분포의 불확실성

확률적 최적화는 보통 주어진 분포 아래의 기대 손실을 계산한다. 분포 강인 최적화는 그 분포 자체도 불확실하다고 보고 후보 분포 집합을 정한다. 각 결정에서 가장 나쁜 기대값을 구한 뒤 이를 비교한다. 모든 실제 상황의 손실을 최대로 보는 것과, 분포별 기대 손실의 최댓값을 보는 것은 다른 연산이다.

두 선택의 비교 예제

선택 A는 항상 손실 2.5가 들고, 선택 B는 확률 p로 손실 10, 나머지는 0이라고 하자. p=0.2로 확정하면 B의 기대 손실 2가 A보다 작다. 그러나 p가 0.1에서 0.3 사이의 어떤 값일 수 있다면 B의 최악 기대 손실은 3이다. 이 후보 분포 집합에서는 A의 최악 기대 손실 2.5가 더 작아 선택이 바뀐다.

자료 주변의 분포 집합

자료의 경험분포를 중심으로 바서슈타인 거리의 공을 만드는 방식이 있다. 반지름은 중심 분포에서 어느 정도 벗어난 후보까지 고려할지 정한다. 다른 조건이 같고 후보 집합을 포함 관계로 넓히면 고정된 결정의 최악 기대 손실은 작아지지 않는다. 반지름을 0으로 두는 경우와 크게 두는 경우는 서로 다른 불확실성 가정을 반영한다.

보수성과 보장의 범위

후보 분포 집합이 지나치게 넓으면 과도하게 보수적일 수 있고, 너무 좁으면 실제 분포를 놓칠 수 있다. 유한 표본 성능 보장은 표본 생성과 분포 꼬리 등에 대한 가정과 집합 구성 방식에 의존한다. 또한 특정 바서슈타인 문제를 유한한 볼록계획으로 바꿀 수 있다는 결과를 모든 손실 함수와 모든 분포 집합에 적용해서는 안 된다.

관련 문서

바서슈타인 거리 / 기댓값 / 강인 최적화 / 확률분포 / 볼록 최적화 / 경험분포