위키득계정 ↗
기술

Apache Tez

Apache Tez기술
시스템 유형
자료 처리 실행 프레임워크
작업 표현
방향성 비순환 그래프
기반 환경
Hadoop YARN
실행 구성
입력과 처리기 및 출력
Apache Tez는 자료 처리 작업을 방향성 비순환 그래프로 표현하고 실행하는 응용 프레임워크다. Hadoop YARN 위에서 동작하며 복잡한 처리 단계를 하나의 작업 그래프로 연결할 수 있게 한다.

처리 단계 사이의 연결

복잡한 자료 처리는 여러 연산과 그 사이의 전달 관계로 구성된다. Tez는 이런 관계를 작업 그래프로 정의하는 API를 제공한다. 앞선 결과를 다음 단계가 사용하는 흐름을 그래프로 표현한다.

유연한 실행 모델

입력과 처리기 및 출력을 나누는 실행 모델을 사용하며 특정 자료형에 묶이지 않도록 설계됐다. 실행 도중의 계획 재구성과 물리적인 자료 흐름의 동적 결정을 주요 설계 주제로 삼는다.

상위 도구의 처리 기반

Hive와 Pig 같은 도구는 Tez를 실행 기반으로 활용할 수 있다. 여러 MapReduce 작업으로 나누던 복잡한 흐름을 하나의 Tez 작업 그래프에 연결해 중간 단계와 자원 사용을 조정하는 것이 활용 방향이다.

관련 문서

Apache Hive / MapReduce / Dryad 분산 실행 / FlumeJava / Dataflow 처리 모델 / 데이터베이스