위키득계정 ↗
기술

Datamodels

Datamodels기술
공개
2022년
입력 정보
학습 부분 집합의 예시 포함 여부
예측 대상
고정된 대상 예시의 모델 출력
활용
자료 반사실 분석과 예측 취약성 조사
Datamodels는 어떤 학습 예시를 사용했는지로 모델의 예측 결과를 추정하는 분석 프레임워크다. 학습 자료의 부분 집합과 특정 대상에 대한 모델 출력 사이의 관계를 함수로 표현한다.

학습 자료를 입력으로 보기

대상 예시와 학습 집합, 학습 알고리즘을 고정한다. 그 뒤 학습 집합에서 어떤 예시를 골랐는지만으로 해당 부분 집합에서 학습한 모델의 출력을 예측한다.

선형 데이터모델

실제 모델의 학습과 평가 과정은 복잡할 수 있다. 원 연구는 단순한 선형 데이터모델로도 이러한 출력의 변화를 예측할 수 있음을 실험으로 보였다.

자료 구성의 변화 분석

학습 자료의 구성을 달리했을 때 예측이 어떻게 달라지는지 추정하는 반사실 분석에 활용했다. 불안정한 예측을 찾고 의미가 비슷한 예시를 조사하는 용도도 제시했다.

학습과 시험 자료의 관계

학습 자료와 시험 자료 사이의 누출을 정량화하고 자료를 표현 공간에 배치하는 활용을 다뤘다. 분석 대상은 정해진 학습 알고리즘과 대상 예시의 관계다.

관련 문서

데이터 섀플리 / TracIn / TRAK / 영향 함수 기반 학습 자료 추적 / 리프리젠터 포인트 / KNN 섀플리