위키득계정 ↗
기술

SIREN

SIREN기술
영문
Sinusoidal Representation Networks
약칭
SIREN
핵심
주기 활성함수
활용
연속 신호와 그 미분의 표현
SIREN은 사인과 같은 주기 활성함수를 사용하는 좌표 기반 신경망 표현이다. 위치나 시간에서 신호값을 계산하고 그 미분도 다루도록 구성한다.

좌표를 신호값에 대응시키기

이미지의 위치나 소리의 시간을 입력하고 해당 신호값을 출력하도록 신경망을 학습할 수 있다. SIREN은 주기 활성함수와 그 통계에 맞는 초기화를 활용한다. 단순히 입력에 사인 좌표만 붙이고 내부는 다른 활성함수를 쓰는 구성과는 구분된다.

미분의 독립 예제

함수 f(x)=sin(3x)의 일차 미분은 3cos(3x), 이차 미분은 -9sin(3x)다. x=π/6에서 각각 함수값 1, 일차 미분 0, 이차 미분 -9를 얻는다. 매끄러운 주기 함수의 미분을 보여 주는 예이며 실제 SIREN이 이 함수를 학습했다고 가정한 것은 아니다.

값과 미분의 학습

관측 신호값이 잘 맞는다고 모든 위치의 미분까지 정확하다고 보장되지는 않는다. 미분을 이용하는 목적이나 물리 방정식에서는 해당 항과 경계 조건도 확인해야 한다. 주파수 스케일과 초기화가 학습의 안정성 및 세부 표현에 영향을 준다.

연속성과 해상도

임의 좌표를 질의할 수 있다는 장점이 관측하지 않은 고주파 세부 정보를 항상 복원한다는 뜻은 아니다. 표본 밀도와 잡음, 모형 용량에 영향을 받는다. 저장 가중치와 질의 계산 비용을 포함해 일반적인 격자 표현과 비교한다.

관련 문서

푸리에 특징 매핑 / 푸리에 신경 연산자 / DeepONet / DeepXDE / 신경 상미분방정식 / 트랜스포머