위키득계정 ↗
기술

큐의 길이와 처리 지연

큐의 길이와 처리 지연기술
큐 길이
대기 중인 항목 수
대기 시간
도착부터 처리 시작까지
처리 시간
실제 작업에 걸린 시간
완료 지연
대기와 처리 등을 합친 시간
큐에 대기 중인 항목 수와 각 항목이 기다린 시간은 서로 다른 지표다. 항목의 처리 비용, 도착 속도, 현재 진행 중인 작업을 함께 보아야 길이가 짧은 큐에서도 지연이 커지는 이유를 이해할 수 있다.

짧은 큐가 빠르다는 보장은 없다

작업 하나가 수십 초 걸리는 큐와 짧은 작업 수백 개가 빠르게 처리되는 큐는 길이만으로 비교하기 어렵다. 특히 현재 실행 중인 작업을 큐 길이에서 제외하면 길이가 0이어도 새 요청이 오래 기다릴 수 있다. 어떤 항목을 대기 중으로 세고 어떤 시점에 길이를 측정하는지 지표의 정의부터 확인한다.

시간을 나누어 재기

요청을 받은 시점, 처리를 시작한 시점, 완료한 시점을 따로 기록하면 대기와 실행 시간을 나눌 수 있다. 전체 완료가 늦어졌을 때 대기만 늘었는지 실행도 느려졌는지를 구분하는 데 도움이 된다. 서로 다른 컴퓨터의 시각을 뺄 때는 시계 오차도 고려해야 하며 한 프로세스 안의 경과 시간 측정에는 적절한 시계를 선택한다.

오래된 항목의 나이

현재 길이와 함께 가장 오래 기다리는 항목의 나이를 보면 오랫동안 처리되지 못한 작업을 발견하기 쉽다. 평균 대기 시간이 짧아도 일부 항목만 계속 뒤로 밀릴 수 있다. 우선순위가 있는 큐에서는 새로 들어오는 높은 우선순위 작업 때문에 낮은 우선순위 항목이 늦어질 수 있으므로 우선순위별 분포도 살핀다.

순간값과 변화 추세

같은 길이 100이라도 줄어드는 중인지 늘어나는 중인지에 따라 상황이 다르다. 일정 구간의 도착 수와 완료 수를 함께 보면 적체의 방향을 판단할 수 있다. 다만 재시도나 취소를 별도 사건으로 셌는지에 따라 수치가 달라지므로 집계 기준을 맞춘다. 잠깐의 몰림과 지속적인 처리 능력 부족도 구분해야 한다.

용량을 늘릴 때의 판단

큐를 더 크게 만들면 입력 거절을 늦출 수 있지만 기다리는 작업이 더 오래 쌓일 수도 있다. 사용자가 기다릴 수 있는 시간이나 작업의 유효 기간을 함께 정한다. 지연된 작업이 이미 쓸모없다면 완료율만 높여도 목적을 달성한 것이 아니다. 길이, 시간, 실패와 만료를 함께 관찰해야 변경 효과를 판단할 수 있다.

관련 문서

스택과 큐의 선택 / 백분위수와 평균 응답 시간 / 누적값과 구간값