시간 대신 경로로 구동하기
상태는 dz=fθ(z)dX 형태의 제어 미분방정식으로 전개된다. X는 관측 시계열과 시간 정보로 구성한 경로다. 신경망의 출력은 상태 차원과 경로 차원에 맞는 행렬이며 경로의 변화가 상태 변화에 영향을 준다.
관측 사이의 경로
이산 관측 사이를 보간해 연속 경로를 구성한다. 미분 가능한 경로라면 dz/dt=fθ(z)dX/dt로 바꿔 ODE 솔버를 활용할 수 있다. 보간 방법도 모형의 일부이며 실제로 관측하지 않은 구간의 진실을 확정하는 것은 아니다.
상수 응답의 독립 예제
한 상태에 대해 f=(2, −1)이 일정하고 두 경로 채널의 증분이 (0.5, 3)이면 상태 증분은 2×0.5−3=−2다. 일반적인 학습 모형에서는 f가 상태에 따라 변하므로 큰 구간을 이 한 번의 곱으로 계산할 수 있는 것은 아니다.
관측과 추론의 구분
관측 정보를 경로에 반영하는 방식은 초기 상태만 정해 놓은 자율 ODE와 다르다. 전체 시계열을 보간한 분류 모형과 미래 관측을 사용할 수 없는 실시간 예측도 구분해야 한다. 평가 시점에 허용되지 않은 관측이 경로 구성에 섞이지 않도록 확인한다.
관련 문서
Neural RDE / 잠재 ODE / 신경 상미분방정식 / 순환 신경망 / 시계열 / 보간