저장공간과 다른 한도
컨텍스트 윈도우는 모델이 한 번에 고려할 수 있는 정보의 최대 범위를 뜻한다. OpenAI의 API 문서는 이를 한 요청에서 사용할 수 있는 토큰 수로 설명한다. 이는 기기의 남은 저장공간이나 계정에 보관한 채팅방 개수와 같은 개념이 아니다. API 모델의 수치를 그대로 ChatGPT 요금제의 대화 한도로 적용해서도 안 된다.
메모리와 구분하기
메모리는 이전 대화에서 유용한 정보를 다음 작업에 이어가는 기능이다. 현재 응답에서 고려하는 맥락의 한도와는 역할이 다르다. 따라서 컨텍스트 관련 안내를 보고 모든 과거 채팅이나 저장된 정보를 삭제해야 한다고 판단할 필요는 없다. 안내의 정확한 문구와 사용 중인 서비스 화면을 먼저 확인한다.
학습 내용을 짧게 이어가기
실용적인 방법으로 학습 목표, 현재 단원, 이해한 내용, 자주 틀리는 부분, 다음에 풀 문제만 짧게 정리해 새 채팅의 첫 메시지에 넣을 수 있다. 예를 들어 고등학교 미분 학습 중이라면 도함수 계산은 이해했지만 증가·감소표에서 실수한다는 점과 다음 문제만 전달한다. 긴 대화 전체를 다시 붙여넣기보다 필요한 교재 일부나 문제만 추가한다. 이는 학습 흐름을 유지하기 위한 제안이며 특정 오류의 해결을 보장하지는 않는다.
짧은 새 대화에서도 반복될 때
이전 대화 전체를 옮기지 않은 짧은 새 채팅에서도 곧바로 같은 안내가 반복된다면, 화면 문구와 발생 시각, 앱 버전, 선택 모델을 기록해 문제를 구분하는 것이 좋다. 특정 계정에서 안내가 빨리 나타나는 원인을 일반적인 컨텍스트 개념만으로 확정할 수는 없다. 정해진 시간 뒤 반드시 초기화된다거나 유료 결제가 반드시 해결한다고 단정하지 않는다.
OpenAI 공식 문서: ChatGPT Learn 용어집 / API 대화 상태와 컨텍스트 윈도우 / 메모리의 역할과 제품별 구분