기반과 변화량
공통 기반 가중치와 미세 조정 가중치의 차이를 작업별 갱신으로 볼 수 있다. 같은 좌표에서 작업들의 변화 방향이 다르면 단순 평균이 유용한 변화를 상쇄할 수 있다. TIES는 작은 변화와 부호 불일치를 구분해 처리한다.
부호 충돌의 독립 예제
한 좌표의 세 작업 변화가 0.4, 0.3, -0.5라면 단순 평균은 약 0.067이다. 양의 방향을 택해 그 부호와 맞는 값만 평균하면 0.35다. 부호 선택과 필터링의 효과를 설명한 예이며 모든 병합 설정에서 같은 선택이 최적이라는 뜻은 아니다.
정리와 병합
작게 변한 성분을 먼저 줄이고 남은 값들로 좌표별 합의 방향을 정한다. 그 방향에 맞는 성분을 결합해 기반에 반영한다. 큰 변화라는 이유만으로 모든 작업에 도움이 된다고 보장되는 것은 아니므로 병합 강도와 정리 비율을 검증한다.
호환성과 평가
구조와 좌표 대응, 공통 기반을 확인해야 작업 변화량을 비교할 수 있다. 서로 다른 어휘나 구조의 모형을 이름만 맞춰 바로 병합할 수는 없다. 작업별 성능이 다르게 변할 수 있어 평균 점수와 함께 개별 과제의 손실도 살핀다.
관련 문서
모형 수프 / DARE 모형 병합 / LoRA / 언어 모형 / 트랜스포머 / 행렬