관측과 잠재 동역학
인식 신경망으로 관측 시계열에 대응하는 초기 잠재 상태의 분포를 추론한다. 그 상태를 ODE로 전개하고 관측 모형을 통해 데이터 값을 생성한다. 초기 상태의 불확실성과 상태를 전개하는 결정론적 ODE를 구분해야 한다.
불규칙한 시간 간격
관측 시점에 맞춰 상태를 계산하므로 모든 관측을 동일한 시간 간격의 구간으로 묶을 필요는 없다. 시간 정보를 다룰 수 있다는 성질이 결측이나 관측 선택의 편향을 자동으로 해결한다는 뜻은 아니다.
연속 궤적의 독립 예제
z′=−z, z(0)=2이면 z(t)=2e^(−t)다. t=ln 2에서는 1이고 t=ln 4에서는 0.5다. 임의 시각을 같은 궤적에서 평가하는 원리를 보여 주는 예이며 실제 학습 모형의 동역학이 지수 감쇠로 제한된 것은 아니다.
ODE-RNN과의 구분
ODE-RNN은 관측 사이에서는 ODE를 풀고 관측이 들어오면 순환 갱신을 적용한다. 잠재 ODE의 생성 궤적은 초기 잠재 상태에서 전개되며 관측마다 생성 상태를 같은 방식으로 갱신하는 것은 아니다. 보간 성능과 관측 범위 밖의 외삽 성능도 따로 평가한다.
관련 문서
신경 상미분방정식 / 증강 신경 상미분방정식 / 순환 신경망 / 변분 오토인코더 / 시계열 / 상미분방정식