점별 처리에서 구간 요약으로
신경 CDE가 보간 경로를 따라 상태를 전개한다면 Neural RDE는 일정 구간의 경로 정보를 요약해 더 큰 범위의 상태 갱신에 활용한다. 로그 시그니처는 단순 평균과 달리 경로의 순서와 상호작용을 나타내는 항들을 포함할 수 있다.
같은 끝점과 다른 순서
평면에서 (0, 0)에서 (1, 1)로 가는 두 경로를 생각하자. 먼저 가로로 간 뒤 세로로 가는 경로와 반대 순서의 경로는 끝점과 총증분이 같다. 그러나 경로가 만드는 방향 있는 면적은 다르다. 높은 수준의 경로 통계가 순서 정보를 구분하는 이유를 보여 주는 독립 예제다.
요약 깊이와 구간 크기
로그 시그니처를 유한한 깊이에서 잘라 사용한다. 깊이를 늘리면 더 복잡한 상호작용을 반영할 수 있지만 채널 수와 계산량이 커진다. 구간을 크게 잡으면 유효 시퀀스는 짧아지지만 요약에서 놓치는 정보를 검토해야 한다.
비용과 평가
요약 통계를 만드는 비용과 상태 갱신 비용을 모두 포함해 비교한다. 긴 입력의 계산을 줄이는 설계가 원본 시계열을 손실 없이 모두 복원한다는 뜻은 아니다. 입력 채널 수와 요약 깊이, 구간 길이를 함께 조절하고 분리된 평가 데이터에서 성능을 확인한다.
관련 문서
신경 제어 미분방정식 / 잠재 ODE / 신경 상미분방정식 / 시계열 / 경로 적분 / 순환 신경망