미분 순서의 차이
연속 방정식의 수반식을 만든 뒤 이산화하는 접근과 실제 사용한 이산 적분 계산을 먼저 정한 뒤 미분하는 접근은 유한한 보폭에서 다른 기울기를 줄 수 있다. 학습하려는 수치 목적과 기울기의 일관성이 중요하다.
체크포인트의 역할
모든 중간값을 저장하면 메모리가 커지고 끝 상태에서 시간을 거꾸로 적분해 복원하면 수치 오차가 증폭될 수 있다. ANODE는 저장한 체크포인트에서 순방향 계산을 재수행해 필요한 상태를 얻고 이산 계산의 미분을 처리한다.
서로 다른 목적의 독립 예제
dz/dt=θz, z(0)=1을 보폭 0.5로 두 번 전진 오일러 적분하면 끝값은 (1+0.5θ)²다. θ=1에서 이 끝값의 도함수는 1.5다. 연속 해 e^θ의 도함수는 같은 위치에서 e다. 두 수치가 다른 것은 우선 미분하는 함수 자체가 다르기 때문이다.
정확성의 의미
이산 계산과 일관된 기울기를 얻는 것과 물리계의 정확한 연속 해를 얻는 것은 구분해야 한다. 체크포인트 전략은 저장량과 재계산량을 맞바꾼다. 적분 허용오차와 기울기 검증, 실제 학습 성능을 함께 살펴야 한다.