입력 분포의 차이
같은 분류 작업이라도 장치나 촬영 조건이 다르면 입력의 밝기와 특징 분포가 달라질 수 있다. 모든 참여자의 정규화 상태를 하나로 섞으면 각 지역에 맞지 않을 수 있다. FedBN은 정규화 부분을 지역에 남기고 다른 공유 가중치를 결합한다.
정규화의 독립 예제
한 참여자의 특징 평균과 표준편차가 10과 2라면 값 12는 정규화 후 1이다. 다른 참여자가 평균 100과 표준편차 20을 가지면 값 120도 1이다. 수치 척도가 달라도 지역 기준의 상대 위치가 같을 수 있음을 보여 주며 작은 안정화 상수와 학습 배율은 생략했다.
공통과 지역 부분
지역에 남기는 것은 단순한 원시 데이터만이 아니라 배치 정규화의 관련 부분이다. 따라서 같은 공유 가중치를 사용하더라도 참여자별 실행 상태가 달라질 수 있다. 모든 참여자가 완전히 같은 단일 모형을 갖는 구성으로 이해하면 안 된다.
적용 범위
배치 정규화가 없는 구조에 같은 방법을 그대로 적용하기는 어렵다. 특징 분포 차이와 정답 비율 차이도 서로 다른 문제다. 새로운 참여자의 정규화 상태를 어떻게 마련할지 확인하고 지역별 정확도와 전체 성능을 함께 평가한다.