상태와 입력의 관계
입력 u가 상태 x를 구동하고 출력 y는 상태 및 현재 입력에서 계산된다. 행렬과 시간 척도를 학습 구조에 포함할 수 있다. 여러 층을 비선형 연산과 함께 쌓으면 모형 전체는 선형계 하나와 같지 않다.
세 가지 계산 관점
이산화한 상태 공간은 순환 갱신으로 실행할 수 있고 시간에 불변인 선형계는 합성곱 표현도 갖는다. 연속시간의 매개변수는 표본 간격과의 관계를 제공한다. 같은 구조의 표현을 바꾸는 것과 실제 구현 비용이 같다는 것은 별개다.
상수 입력의 독립 예제
x′=−2x+2u에서 u=3을 일정하게 유지하고 x(0)=0이면 x(Δ)=3(1−e^(−2Δ))다. Δ=ln 2일 때 상태는 2.25다. 단순히 입력 3으로 즉시 바뀌는 것이 아니라 동역학과 시간 간격에 따라 반응한다.
기억 구조의 선택
상태 행렬은 어떤 시간 척도의 과거를 유지할지에 영향을 준다. 긴 기억에 적합한 구조를 사용하더라도 모든 데이터에서 좋은 예측을 보장하지는 않는다. 표본 간격과 상태 크기, 실제 시퀀스 길이를 맞춰 성능과 비용을 비교한다.
관련 문서
S4 상태 공간 모형 / S4D / HiPPO / 상태 공간 모형 / 합성곱 / 순환 신경망