위키득계정 ↗
기술

RULER

RULER기술
연구 공개
2024년
발표 학회
COLM 2024
평가 자료
구성이 가능한 합성 입력
주요 과제
검색과 다중 홉 추적 및 집계
RULER는 입력 길이와 과제 복잡도를 조절해 언어 모델의 긴 문맥 활용 능력을 평가하는 합성 벤치마크다. 단일 정보 검색을 넘어 다중 홉 추적과 집계 과제를 포함한다.

단일 정보 찾기의 한계

긴 방해 문맥에서 하나의 정보를 찾는 시험은 유용하지만 문맥 이해의 일부만 측정한다. RULER는 찾아야 할 정보의 종류와 개수를 바꾸는 변형을 제시했다.

길이와 복잡도 조절

입력 시퀀스 길이와 과제의 복잡도를 원하는 조건에 맞춰 설정할 수 있다. 같은 모델도 길이나 필요한 정보 처리 방식에 따라 다른 결과를 낼 수 있다.

검색 이후의 처리

문맥 안의 관계를 여러 단계로 따라가거나 정보를 모아 집계하는 과제를 추가했다. 특정 값 하나를 찾아내는 능력과 정보를 연결해 처리하는 능력을 나눠 평가한다.

명시된 길이와 실제 성능

초기 연구는 17개 모델을 13개 대표 과제에서 비교했다. 모델이 지원한다고 표시한 문맥 길이와 그 길이에서 충분한 과제 성능을 유지하는지는 별개라는 점을 분석했다.

관련 문서

LongBench / QuALITY / HotpotQA / QASPER / 언어 모델 / 자연어 처리