구조가 아닌 자료를 바꾸기
모델 구조나 학습 알고리즘에 비해 자료 설계의 효과를 비교하기 어려웠던 문제를 다룬다. 표준화한 학습 코드와 평가를 이용해 자료 구성 실험의 공통 기준을 제공한다.
큰 후보 풀의 의미
Common Crawl에서 모은 128억 영상 텍스트 쌍을 후보 풀로 사용한다. 후보 전체가 곧 각 모델의 학습 집합인 것은 아니며, 참여자는 필터링하거나 새 출처를 구성한다.
계산 규모별 비교
계산량이 1만 배 차이 나는 범위에 여러 실험 규모를 마련해 서로 다른 자원의 연구자가 실험할 수 있도록 했다. 자료 선별의 효과와 계산 규모에 따른 경향을 함께 분석할 수 있다.
학습 후의 평가
선택한 자료로 표준 CLIP 학습을 수행하고 38개 후속 시험 집합에서 모델을 평가한다. 원자료를 몇 개 모았는지와 그 자료로 학습한 모델의 성능은 별도로 기록할 대상이다.