문자열을 고르는 것과의 차이
사람이 안내 문장을 고쳐 쓰는 대신 숫자 벡터를 학습한다. 이 벡터는 어휘에 있는 단어 하나와 반드시 대응하지 않는다. 학습된 접두어는 후속 계산에 조건을 주지만 기반 모형의 모든 가중치를 새로 갱신하지는 않는다.
작업별 저장의 독립 예제
기반 모형 한 개와 작업별 접두어 세 개를 저장한다고 하자. 세 작업이 공유하는 큰 모형을 세 번 복사하지 않고 각 작업의 작은 조건만 따로 보관할 수 있다. 실제 절감량은 접두어 길이와 적용 층, 내부 표현 크기에 따라 달라진다.
가상 토큰의 의미
가상 토큰이라는 표현은 실제 문서 앞에 보이는 글자가 추가된다는 뜻이 아니다. 계산 내부에서 학습 가능한 상태를 참조한다는 의미다. 자연어 프롬프트와 함께 쓸 수 있지만 입력 문자열만 저장하는 일반 프롬프트 설계와는 다른 학습 산출물이 필요하다.
비용과 품질
작은 접두어만 갱신하더라도 기반 모형을 실행하고 필요한 기울기를 전달하는 계산은 남는다. 입력과 함께 참조할 상태도 늘어날 수 있다. 작업별 데이터와 생성 품질을 확인하고 접두어 길이 및 실행 비용을 함께 비교한다.