위키득계정 ↗
기술

DVRL

DVRL기술
공개
2019년
영문 이름
Data Valuation using Reinforcement Learning
가치 추정기
심층 신경망
보상 근거
작은 검증 집합의 과제 성능
DVRL은 목표 과제의 검증 성능을 보상으로 삼아 학습 자료의 가치를 배우는 메타 학습 프레임워크다. 가치 추정기와 예측기를 함께 학습하며 어떤 자료를 사용할지 조절한다.

과제에 따른 데이터 가치

자료의 가치는 어떤 과제를 학습하는지와 연결된다. DVRL은 예측 모델과 함께 가치를 적응적으로 학습해 과제에 유용한 자료를 찾아내려 한다.

학습 사용 확률

가치 추정 신경망은 각 예시가 예측기의 학습에 사용될 가능성을 학습한다. 자료를 모두 같은 방식으로 취급하는 대신 학습에 참여하는 정도를 조절하는 구성이다.

검증 성능의 보상

작은 검증 집합에서 얻은 목표 과제의 성능을 강화 학습 신호로 사용한다. 이 보상을 통해 가치 추정기를 갱신하며 예측기와 함께 최적화한다.

평가 과제

원 연구는 손상된 표본의 발견과 도메인 적응, 강건 학습 등 여러 상황에서 평가했다. 정해진 과제와 검증 자료에 비추어 가치 추정이 주는 효과를 조사했다.

관련 문서

데이터 섀플리 / TracIn / 영향 함수 기반 학습 자료 추적 / Confident Learning / LIME / SHAP