위키득계정 ↗
기술

In-Run 데이터 섀플리

In-Run 데이터 섀플리기술
공개
2024년
학회
ICLR 2025
영문 이름
In-Run Data Shapley
귀속 대상
단일 학습 실행의 특정 모델
In-Run 데이터 섀플리는 한 번의 학습 실행으로 얻는 특정 모델에 대해 자료의 기여를 추적하려는 방법이다. 여러 부분 집합에서 모델을 반복 학습하는 비용을 줄이는 확장 방향을 제시했다.

특정 실행의 모델

같은 알고리즘으로 학습해도 실행마다 다른 모델을 얻을 수 있다. 이 연구는 그중 관심 있는 특정 실행의 모델을 대상으로 자료 기여를 추적하는 문제를 다룬다.

반복 학습 비용

다른 자료 부분 집합으로 모델을 다시 학습하는 방식은 큰 모델에 적용하기 어렵다. In-Run 접근은 표준 학습에 더해지는 비용을 줄여 대규모 귀속 분석에 접근한다.

사전 학습의 자료 분석

파운데이션 모델의 사전 학습 단계에 자료 귀속을 적용하는 사례를 제시했다. 원 연구는 사전 학습 자료의 기여를 분석하고 자료 구성에 관한 함의를 논의했다.

관련 문서

데이터 섀플리 / Data Banzhaf / TracIn / TRAK / DataInf / LESS 지시 자료 선택