위키득계정 ↗
기술

RDumb

RDumb기술
연구 공개
2023년
복원 기준
사전 학습한 모델 상태
관련 벤치마크
Continually Changing Corruptions
주요 평가
장시간 적응의 성능
RDumb는 지속적 시험 시점 적응 모델을 주기적으로 사전 학습 상태로 되돌리는 기준 방법이다. 장시간 적응의 성능 붕괴를 조사한 CCC 벤치마크와 함께 제시됐다.

긴 시간 뒤의 성능

고정된 분포 변화 하나에서의 적응과 오랫동안 계속 바뀌는 환경의 적응은 다른 평가다. 연구는 기존 방법의 진전을 살펴보기 위해 점근적인 성능을 측정하는 CCC를 제안했다.

붕괴를 관찰한 실험

논문이 평가한 장시간 조건에서는 대부분의 비교 방법이 결국 적응하지 않는 모델보다 나빠지는 현상을 보였다. 성능 붕괴를 막도록 설계된 방법도 비교에 포함했다.

주기적 상태 초기화

RDumb는 모델을 일정하게 사전 학습 상태로 되돌리는 단순한 기준이다. 복잡한 정규화 대신 반복적인 초기화 전략이 기존 방법과 어떤 차이를 보이는지 비교한다.

평가 범위의 의미

연구가 고려한 벤치마크에서 이 기준은 기존 비교 방법과 비슷하거나 더 좋은 성능을 보였다. 장기 적응을 평가할 때 단순 초기화 기준과 적응 없는 기준을 함께 살펴볼 필요를 제기했다.

관련 문서

CoTTA / RMT 시험 시점 적응 / EcoTTA / ROID 시험 시점 적응 / 시험 시점 적응의 시간 제약 평가 / SAR 시험 시점 적응