점도 넓은 무늬로 보임
유한한 지름의 렌즈나 거울을 통과한 빛은 회절해 점광원도 유한한 무늬로 나타난다. 두 점이 가까우면 이 무늬가 겹친다. 레일리 기준은 이상적인 회절 무늬가 어느 정도 겹칠 때 두 광원을 구별한다고 볼지 정하는 규칙이다.
지름과 파장의 효과
개구 지름을 두 배로 하면 같은 파장에서 기준 각도는 절반으로 줄어든다. 반대로 긴 파장일수록 분해 각도가 커진다. 더 작은 각도 차이를 구별할 수 있을수록 각분해능이 좋으므로 값이 크다는 것을 무조건 성능 향상으로 읽으면 안 된다.
수치 예
λ=600 nm, D=0.12 m라면 θ_R≈6.1×10⁻⁶ rad다. 이를 각초로 바꾸면 약 1.26각초다. 여기서 D에 반지름 0.06 m를 넣으면 값이 두 배로 잘못 계산되므로 지름이라는 정의를 확인해야 한다.
실제 관측과의 관계
이 기준은 이상적인 회절 제한 계의 점광원에 대한 것이다. 실제 영상은 수차, 대기 흔들림, 잡음, 검출기와 분석 방식에도 영향을 받는다. 레일리 기준 하나를 모든 종류의 영상에서 절대로 넘을 수 없는 동일한 판별 한계로 해석해서는 안 된다.