표본을 행으로 놓기
한 층의 활성값을 표본마다 펼쳐 행렬 Q를 만들면 Q의 행 수는 배치 크기 b다. QQᵀ는 b×b 행렬이며 각 원소가 두 표본 활성값의 내적이다. 교사와 학생의 채널 수나 공간 크기가 달라도 같은 배치의 관계 행렬 크기는 같을 수 있다.
관계 행렬의 예
두 표본의 특징이 (1,0)과 (1,1)이면 그람 행렬은 첫 행 1,1과 둘째 행 1,2다. 첫 행을 L2 정규화하면 (1/√2,1/√2), 둘째 행은 (1/√5,2/√5)가 된다. 이처럼 특징 벡터를 먼저 정규화하는 것과 그람 행렬의 행을 정규화하는 것은 다른 연산이다.
학생의 관계 맞추기
교사와 학생에서 구한 행 정규화 관계 행렬의 원소별 제곱차를 줄인다. 여러 층 쌍에 적용한 항을 학생의 원래 과제 손실과 결합할 수 있다. 이 손실은 좌표 방향이 동일할 것을 요구하지 않으며 직교 회전처럼 내적을 유지하는 변환에도 관계가 보존된다.
배치의 역할
관계 행렬은 현재 배치의 표본을 기준으로 계산하므로 표본 순서를 교사와 학생에서 같게 유지해야 한다. 행이 영벡터면 정규화 분모 처리도 필요하다. 배치 내부 관계를 맞춘 결과와 새 자료에서의 예측 성능을 구분하고 과제 손실과 증류 항의 비중을 검토한다.