작은 수정의 어려움
하나의 문제 입력과 원하는 출력만으로 단순 미세 조정하면 과적합하기 쉽다. MEND는 목표 동작을 바꾸면서 다른 동작은 가능한 한 유지하려는 모델 편집 문제를 다룬다.
편집 네트워크의 학습
작은 보조 네트워크들이 일반적인 미세 조정에서 얻은 기울기를 변환하도록 학습한다. 새 편집을 적용하는 절차와 편집 방법 자체를 학습하는 절차가 구분된다.
기울기를 저랭크로 분해하기
큰 모델의 기울기 변환을 다루기 위해 저랭크 분해를 활용한다. 변환을 표현하는 매개변수 구성을 현실적으로 다룰 수 있도록 하는 핵심 설계다.
여러 모델 구조의 평가
연구는 T5와 GPT 및 BERT와 BART 계열로 실험했다. 보조 편집기가 학습된 뒤 새 입력과 출력 쌍에 편집을 적용하는 능력을 비교했다.
관련 문서
ROME 모델 편집 / BERT / 언어 모델 / 미세 조정 / 트랜스포머 / 기계 학습