기반에서 달라진 부분
같은 기반 모형의 가중치를 θ₀, 미세 조정 결과를 θ₁이라고 하면 변화는 θ₁-θ₀다. 이 방향은 해당 학습이 가중치 공간에서 만든 이동을 표현한다. 문서나 단어를 임베딩한 의미 벡터와는 다른 대상이다.
산술의 독립 예제
기반 벡터가 (1, 2)이고 작업 A의 결과가 (3, 3)이면 작업 벡터는 (2, 1)이다. 여기에 작업 B의 변화 (-1, 2)를 더해 기반에 반영하면 (2, 5)가 된다. 숫자 연산이 가능하다는 예이며 두 작업의 성능이 동시에 좋아진다는 보장은 아니다.
크기 조절과 부정
변화량의 배율을 조절하거나 반대 방향을 적용할 수 있다. 그러나 한 작업 벡터를 빼는 것이 그 작업 관련 지식을 완전히 삭제하거나 특정 학습 자료의 영향을 증명 가능하게 없애는 절차는 아니다. 실제 행동 변화는 평가가 필요하다.
호환성과 간섭
공통 기반과 구조, 매개변수 좌표의 대응이 맞아야 변화량의 의미를 비교하기 쉽다. 서로 다른 작업의 변화가 같은 좌표에서 충돌할 수 있다. 결합 비율을 검증하고 목표 과제 외에 유지해야 할 과제의 성능도 함께 확인한다.
관련 문서
TIES 모형 병합 / DARE 모형 병합 / 모형 수프 / LoRA / 언어 모형 / 트랜스포머