코딩 개념에서 과제 만들기
품질이 높은 시작 코드 조각에서 다양한 코딩 개념을 추출한다. 이를 바탕으로 새로운 과제를 생성해 학습에 사용할 지시를 만든다.
후보 답변의 실행 검사
각 과제에 여러 답변을 생성하고 테스트 사례와 짝지어 격리된 실행 환경에서 검증한다. 단순히 생성된 문장을 모두 학습 자료로 채택하지 않는다.
선별한 예시로 지시 조정하기
검사를 통과한 예시를 골라 지시 조정에 사용한다. 데이터 생성에 같은 기반 모델을 이용하며 광범위한 사람의 주석이나 다른 모델의 증류에 의존하지 않는 접근을 연구했다.
학습 자료와 모델의 관계
주요 실험은 CodeQwen1.5-7B로 약 7만 4천 쌍의 자료를 만들었다. 여러 규모의 모델과 구성 요소를 비교하며 자체 데이터 분포를 활용하는 효과를 분석했다.
관련 문서
OctoPack / OpenCodeInterpreter / HumanEval / Code Llama / Self-Refine / 언어 모델