위키득계정 ↗
기술

Percolator 증분 처리

Percolator 증분 처리기술
개발 조직
Google
연구 발표
OSDI 2010
기반 저장 시스템
Bigtable
핵심 추상화
트랜잭션과 관찰자
Percolator는 큰 자료 저장소에 생기는 작은 변경을 점진적으로 처리하는 Google의 시스템이다. Bigtable 위에 분산 트랜잭션과 변경 알림을 결합해 관련 처리 단계를 이어간다.

전체 재계산 대신 변경 처리

새 자료가 들어올 때마다 큰 저장소 전체를 다시 계산하면 이전 작업을 반복하게 된다. Percolator는 작은 변경을 개별적으로 반영하면서 자료 사이의 정확성 조건을 유지하려는 접근이다.

관찰자가 잇는 처리 단계

사용자가 지정한 열이 바뀌면 관찰자 코드가 실행된다. 한 관찰자가 표에 새 결과를 쓰면 뒤쪽 관찰자의 작업으로 이어지므로 증분 계산의 단계를 구성할 수 있다.

트랜잭션과 적용 범위

초기 설계는 스냅샷 격리를 제공하는 트랜잭션으로 동시 변경을 다뤘다. 작업을 작은 변경으로 나누기 어려운 전체 정렬 같은 계산은 일괄 처리 시스템이 더 적합하다는 역할 구분도 제시했다.

관련 문서

Bigtable / MapReduce / 데이터베이스 트랜잭션 / Megastore / MillWheel 스트림 처리 / 데이터베이스