위키득계정 ↗

문서 둘러보기

기술↗

strace

strace는 Linux 프로세스와 커널 사이의 시스템 호출 및 신호 전달을 추적하는 진단 도구다. 프로그램을 다시 컴파일하지 않고 실행 동작을 살피며 호출 종류와 경로에 따라 결과를 좁혀 분석할 수 있다.

기술↗

bpftrace

bpftrace는 Linux의 동적 추적 작업을 작성하는 고수준 언어이자 도구다. eBPF 기반 관측 프로그램을 짧은 스크립트로 표현하고 커널이나 사용자 프로그램에서 발생한 이벤트에 맞춰 동작을 실행한다.

기술↗

CRIU

CRIU는 Linux 응용 프로그램이나 컨테이너의 실행 상태를 디스크에 저장하고 나중에 복원하는 도구다. 실행 중인 작업을 체크포인트로 남겨 스냅샷과 이동 및 디버깅 같은 용도에 활용한다.

기술↗

crun

crun은 OCI 규격의 Linux 컨테이너를 실행하는 C 언어 기반 런타임이다. 명령행으로 컨테이너를 생성하고 시작 및 관리하며 라이브러리 형태로 다른 프로그램에 포함하는 사용 방식도 제공한다.

기술↗

runc

runc는 OCI 규격에 따라 Linux 컨테이너를 생성하고 실행하는 낮은 수준의 명령행 런타임이다. 루트 파일 시스템과 실행 설정으로 이루어진 번들을 받아 컨테이너 프로세스의 수명 주기 작업을 수행한다.

기술↗

Cloud Hypervisor

Cloud Hypervisor는 클라우드 작업을 실행하는 데 초점을 맞춘 가상 머신 모니터다. KVM과 Microsoft Hypervisor를 기반으로 동작하며 Rust로 구현하고 현대적인 64비트 환경과 반가상화 장치를 중심으로 설계한다.

기술↗

Firecracker

Firecracker는 컨테이너와 함수형 서비스의 작업을 경량 가상 머신에서 실행하기 위한 가상화 기술이다. Linux KVM을 사용하는 가상 머신 모니터가 microVM을 만들고 호스트 API로 자원과 실행 구성을 관리한다.

기술↗

Kata Containers

Kata Containers는 컨테이너 관리 흐름에 경량 가상 머신을 결합해 워크로드를 격리하는 프로젝트다. 컨테이너 도구와 연결되는 런타임 및 가상 머신 내부 에이전트와 게스트 커널 등의 구성 요소를 제공한다.

기술↗

gVisor

gVisor는 응용 프로그램과 호스트 운영체제 사이에 사용자 공간의 커널 계층을 두는 격리 도구다. Linux와 유사한 인터페이스를 구현해 시스템 호출을 처리하고 runsc 런타임으로 컨테이너 관리 도구와 연결한다.

기술↗

파워포인트 번호 상자와 그라데이션 제목 막대 만들기

기본 도형과 텍스트 상자를 겹쳐 번호가 있는 가로 제목 막대를 만들고, 필요할 때 점 편집으로 모양을 조정하는 방법이다.

기술↗

Buildah

Buildah는 OCI 컨테이너 이미지를 만드는 명령행 도구다. 기존 이미지나 빈 작업 컨테이너에서 파일 시스템과 설정을 구성하고 이를 새 이미지로 저장하며 Dockerfile을 쓰거나 개별 명령을 조합하는 방식을 지원한다.

기술↗

Podman

Podman은 OCI 컨테이너와 이미지를 만들고 실행 및 관리하는 도구다. Linux에서 전용 상시 데몬 없이 사용할 수 있으며 일반 사용자 권한의 실행과 원격 클라이언트를 통한 관리도 지원한다.

기술↗

CRI-O

CRI-O는 Kubernetes의 컨테이너 런타임 인터페이스를 구현하고 OCI 규격의 실행기와 연결하는 소프트웨어다. kubelet이 컨테이너 이미지를 준비하고 프로세스를 실행 및 관리하도록 런타임 기능을 제공한다.

기술↗

containerd

containerd는 호스트에서 컨테이너의 이미지와 실행 수명 주기를 관리하는 런타임이다. Linux와 Windows의 데몬으로 동작하며 더 큰 컨테이너 관리 시스템 안에 포함되어 실행 기능을 제공하도록 설계되었다.

기술↗

Helm

Helm은 Kubernetes 응용을 패키지로 정의하고 설치 및 갱신하는 도구다. 관련 리소스를 차트로 묶고 환경별 설정 값을 적용해 릴리스를 만들며 설치 이력과 의존 관계를 관리한다.

기술↗

Kustomize

Kustomize는 원본 YAML 파일을 직접 수정하지 않고 Kubernetes 리소스의 구성을 조정하는 도구다. 공통 기반에 환경별 변경 사항을 겹쳐 최종 YAML을 생성하며 독립 도구와 kubectl에 포함된 기능으로 사용할 수 있다.

기술↗

Crossplane

Crossplane은 플랫폼에 맞는 제어 영역과 선언적 API를 만들기 위한 프레임워크다. Kubernetes를 확장해 응용과 인프라의 목표 상태를 관리하고 여러 자원을 묶는 사용자 정의 관리 인터페이스를 구성한다.

기술↗

KubeVirt

KubeVirt는 Kubernetes 클러스터에 가상 머신 관리 기능을 추가하는 소프트웨어다. 가상 머신을 사용자 정의 리소스로 표현하고 기존 Kubernetes의 배치와 네트워크 및 저장 기능을 활용해 컨테이너와 함께 관리한다.

기술↗

Pulumi

Pulumi는 프로그래밍 언어로 클라우드 자원의 목표 상태를 정의하고 관리하는 코드형 인프라 도구다. 언어별 SDK와 명령행 도구 및 배포 엔진이 협력해 자원을 만들고 변경하며 독립적인 스택으로 환경을 구분한다.

기술↗

Vagrant

Vagrant는 가상 머신 기반 개발 환경을 만들고 관리하는 도구다. 환경 설정을 Vagrantfile에 기록하고 공급자 및 프로비저닝 도구와 연결해 팀이 같은 의존성과 구성을 재현하도록 한다.

기술↗

Nomad

Nomad는 여러 머신에 응용 프로그램의 작업을 배치하고 실행 상태를 관리하는 워크로드 오케스트레이터다. 컨테이너와 컨테이너화하지 않은 응용 및 배치 작업을 공통의 선언적 작업 정의로 다룬다.

기술↗

Packer

Packer는 하나의 설정을 바탕으로 여러 플랫폼에서 사용할 머신 이미지를 만드는 도구다. 운영체제와 소프트웨어를 미리 구성한 이미지를 생성해 새로운 장비나 가상 머신을 준비하는 기반으로 사용한다.

기술↗

Ansible

Ansible은 시스템 설정과 응용 배포 및 반복 운영 작업을 자동화하는 도구다. 플레이북에 작업과 원하는 상태를 기술하고 대상 장비와 연결해 실행하며 관리 대상마다 전용 에이전트를 설치하는 방식을 요구하지 않는다.

기술↗

Terraform

Terraform은 클라우드와 자체 운영 환경의 인프라를 설정 파일로 정의하고 관리하는 도구다. 목표 상태와 현재 자원의 차이로 변경 계획을 만들고 공급자 플러그인을 통해 각 서비스의 API에 작업을 요청한다.

기술↗

Jenkins

Jenkins는 소프트웨어의 빌드와 검사 및 전달 작업을 자동화하는 서버다. 플러그인으로 기능을 확장하며 Pipeline을 이용해 여러 작업으로 이루어진 생산 및 배포 과정을 코드로 정의할 수 있다.

기술↗

Flux GitOps

Flux는 저장소에 선언한 설정을 Kubernetes 클러스터에 동기화하는 지속적 전달 도구 체계다. 사용자 정의 리소스와 여러 제어기를 이용해 응용 및 인프라의 목표 상태를 반영하고 변경 사항을 계속 조정한다.

기술↗

Argo CD

Argo CD는 Git 저장소의 선언적 설정을 기준으로 Kubernetes 응용의 배포 상태를 관리하는 도구다. 현재 실행 상태와 목표 상태를 비교하고 차이를 표시하며 수동 또는 자동 동기화로 설정을 반영한다.

기술↗

Tekton

Tekton은 Kubernetes에서 지속적 통합과 전달 파이프라인을 구성하는 도구 체계다. 재사용 가능한 작업과 파이프라인을 사용자 정의 리소스로 선언하고 컨테이너에서 실행하며 이벤트 및 서명된 생산 이력 기능과 연결할 수 있다.

기술↗

in-toto

in-toto는 소프트웨어 공급망에서 수행한 단계와 그 수행자를 확인하기 위한 프레임워크다. 작성과 검사 및 포장과 배포의 흐름을 드러내어 예정한 절차가 올바른 주체에 의해 수행되었는지 검증하도록 한다.

기술↗

CycloneDX

CycloneDX는 소프트웨어와 서비스 등의 구성 요소 및 의존 관계를 표현하는 공급망 정보 규격이다. 구성 명세뿐 아니라 취약점과 제작 과정 및 관련 증명 정보를 기계가 읽을 수 있는 구조로 전달한다.

기술↗

SLSA

SLSA는 소프트웨어가 만들어지고 전달되는 공급망의 신뢰성을 높이기 위한 지침 체계다. 소스와 빌드 같은 영역별 보안 요구 사항을 수준으로 구분하며 제작자와 이용자가 생산 과정의 증거를 평가하도록 한다.

기술↗

SPDX

SPDX는 소프트웨어 구성 명세와 관련 메타데이터를 교환하기 위한 공개 표준이다. 구성 요소의 출처와 라이선스 및 보안 정보를 공통 형식으로 전달하며 명세와 라이선스 목록 및 도구로 이루어진 프로젝트이기도 하다.

기술↗

Sigstore

Sigstore는 소프트웨어 배포물의 서명과 검증을 지원하는 도구 및 서비스 체계다. 서명을 신원과 연결하고 투명성 로그에 기록해 이용자가 기대한 제작자의 배포물인지와 서명 뒤 변경되었는지를 확인하도록 한다.

기술↗

Syft

Syft는 컨테이너 이미지와 파일 시스템 등에 포함된 소프트웨어 구성 요소를 조사해 SBOM을 만드는 도구다. 명령행 도구와 Go 라이브러리를 제공하며 생성한 구성 명세를 취약점 검사 도구와 연결할 수 있다.

기술↗

쿠팡 와우 계정 공유와 쿠팡플레이 가족 프로필의 차이

다른 기기 로그인, 와우 멤버십 권리 공유, 쿠팡플레이 가족 프로필을 공식 이용 규정에 따라 구별한다.

기술↗

Grype

Grype는 컨테이너 이미지와 파일 시스템 및 소프트웨어 구성 명세에서 알려진 취약점을 찾는 검사 도구다. 운영체제 패키지와 언어별 소프트웨어 패키지를 다루고 결과를 해석하는 위험 정보도 제공한다.

기술↗

Trivy

Trivy는 컨테이너 이미지와 파일 시스템 및 저장소 등에서 보안 관련 문제를 검사하는 도구다. 검사할 대상과 검사 종류를 구분하며 알려진 취약점과 설정 오류 및 민감한 정보 등을 찾는다.

기술↗

Kyverno

Kyverno는 클라우드 환경의 설정과 동작에 정책을 적용하는 정책 엔진이다. Kubernetes 리소스를 검사하거나 변경 및 생성하는 작업을 지원하고 명령행 검사와 JSON 자료의 정책 평가에도 사용할 수 있다.

기술↗

Tetragon

Tetragon은 eBPF를 이용해 Linux에서 실행 중인 프로세스의 보안 관련 행동을 관측하고 정책을 적용하는 도구다. 프로세스 실행과 시스템 호출 및 파일과 네트워크 접근을 살피고 필요한 사건에 대응한다.

기술↗

Calico

Calico는 Kubernetes를 비롯한 환경에서 네트워크 연결과 보안 정책 및 관측 기능을 제공하는 플랫폼이다. 컨테이너와 가상 머신 및 호스트의 통신을 다루며 오픈 소스판과 상용 제품군이 있다.

기술↗

Falco

Falco는 실행 중인 호스트와 컨테이너 및 클라우드 환경의 이벤트에서 의심스러운 행동을 탐지하는 보안 도구다. 관측한 이벤트를 규칙과 비교하고 컨테이너나 Kubernetes의 맥락 정보를 더해 경보를 만든다.

기술↗

Cilium

Cilium은 Linux의 eBPF를 활용해 컨테이너 서비스의 네트워크 연결과 보안 정책을 처리하는 소프트웨어다. Kubernetes 네트워크 구성과 부하 분산 및 신원 기반 접근 제어를 제공하고 Hubble을 통해 통신 상태를 관측한다.

기술↗

Linkerd

Linkerd는 Kubernetes 서비스의 통신에 관측과 보안 및 신뢰성 기능을 더하는 서비스 메시다. 제어 영역과 서비스 인스턴스 옆에 배치하는 전용 프록시로 구성되며 응용 프로그램 밖에서 통신을 처리한다.

기술↗

Envoy

Envoy는 서비스 간 요청이나 외부에서 들어오는 트래픽을 중계하는 프록시다. 응용 프로그램과 분리된 프로세스로 실행하며 네트워크 필터와 HTTP 필터를 통해 연결 처리와 요청 라우팅 기능을 구성한다.

기술↗

Istio

Istio는 분산 응용의 서비스 간 통신에 보안과 트래픽 제어 및 관측 기능을 더하는 서비스 메시다. 제어 영역이 정책과 서비스 정보를 바탕으로 프록시를 설정하고 데이터 영역에서 실제 통신을 처리한다.

기술↗

SPIFFE

SPIFFE는 서로 다른 실행 환경에 있는 소프트웨어의 신원을 표현하고 확인하기 위한 표준 모음이다. 서비스가 사용하는 짧은 수명의 암호학적 신원 문서와 이를 전달하는 API 등을 정의한다.

기술↗

SPIRE

SPIRE는 SPIFFE 규격을 구현해 워크로드의 신원 문서를 발급하고 전달하는 시스템이다. 서버와 노드별 에이전트가 실행 환경과 프로세스의 특성을 확인한 뒤 등록된 조건에 맞는 신원을 제공한다.

기술↗

Consul

Consul은 분산된 서비스의 위치와 상태를 관리하고 서비스 사이의 연결을 제어하는 네트워크 소프트웨어다. 서비스 검색과 서비스 메시 및 트래픽 관리 기능을 제공하며 필요한 기능을 따로 또는 함께 사용할 수 있다.

기술↗

HashiCorp Vault

HashiCorp Vault는 응용 프로그램이 사용하는 비밀번호와 암호 키 및 인증서 같은 비밀 정보를 중앙에서 관리하는 소프트웨어다. 클라이언트의 인증 결과와 정책에 따라 민감한 자료와 암호화 기능에 대한 접근을 결정한다.

기술↗

cert-manager

cert-manager는 Kubernetes와 OpenShift 환경에서 워크로드가 사용할 TLS 인증서를 발급받고 만료 전에 갱신하는 도구다. 인증 기관과 연결해 인증서 수명 주기 관리를 자동화한다.

기술↗

렛츠 인크립트

렛츠 인크립트는 웹사이트 등에서 사용하는 인증서를 자동 발급하는 공개 인증 기관이다. 영어 이름은 Let’s Encrypt이며 도메인 제어 권한을 확인하는 ACME 절차로 발급과 갱신을 처리한다.

기술↗

애드포스트 클릭률과 블로그 유입 통계의 차이

광고 노출 및 클릭 통계와 게시글 조회 및 방문 통계를 구별하고, 광고 클릭률 0%를 해석하는 방법을 정리한다.

기술↗

FreeIPA

FreeIPA는 Linux와 UNIX 네트워크에서 계정과 인증 및 접근 관련 정보를 중앙 관리하는 통합 시스템이다. 디렉터리와 Kerberos 및 인증서 기능을 연결하고 웹 화면과 명령행 관리 도구를 제공한다.

기술↗

OpenLDAP

OpenLDAP는 LDAP 디렉터리 서비스를 제공하는 공개 소프트웨어 모음이다. 서버와 프로토콜 라이브러리 및 관리 도구를 포함하고 여러 응용이 공통 디렉터리 자료에 접근하도록 한다.

기술↗

갤럭시 버즈 분실 후 위치가 갱신되지 않을 때

Samsung Find의 마지막 위치와 현재 위치를 구분하고, 새로고침 및 배터리와 근처 탐색의 한계를 확인한다.

기술↗

LDAP

LDAP는 분산 디렉터리 서비스에 접근하는 프로토콜이다. 클라이언트가 서버에 조회나 변경 같은 연산을 요청하고 서버가 디렉터리에서 처리한 결과를 돌려주는 구조를 사용한다.

기술↗

OAuth 2 프레임워크

OAuth 2.0은 응용이 HTTP 서비스의 보호된 자원에 제한된 접근 권한을 얻도록 하는 인가 프레임워크다. 자원 소유자의 승인에 따라 대신 접근하거나 응용 자신의 권한으로 접근하는 절차를 정의한다.

기술↗

WebAuthn

WebAuthn은 웹 응용에서 공개 키 자격 증명을 만들고 사용해 이용자를 인증하도록 하는 웹 API 규격이다. 브라우저 같은 사용자 에이전트가 응용과 인증기 사이의 접근을 중개한다.

기술↗

JSON Web Token

JSON Web Token은 두 주체 사이에 전달할 클레임을 간결한 JSON 기반 표현으로 담는 형식이다. JWS나 JWE 구조를 이용해 서명과 무결성 보호 또는 암호화를 적용할 수 있다.

기술↗

OpenID Connect

OpenID Connect는 OAuth 2.0을 바탕으로 사용자의 인증 결과와 신원 정보를 응용에 전달하는 프로토콜이다. 신원 제공자가 수행한 인증을 다른 웹과 모바일 응용이 검증 가능한 정보로 활용하도록 한다.

기술↗

SCIM

SCIM은 여러 서비스 영역에 걸쳐 사용자와 그룹 같은 신원 자료를 공통 형식으로 교환하고 관리하는 규격 묶음이다. JSON 기반의 자료 스키마와 확장 모델 및 HTTP 프로토콜을 제공한다.

기술↗

authentik

authentik은 응용의 인증을 연결하는 신원 제공자와 단일 로그인 플랫폼이다. 로그인 절차를 여러 단계의 흐름으로 구성하고 사용자와 응용의 연결 및 인증 사건을 관리한다.

기술↗

Keycloak

Keycloak은 여러 응용의 로그인과 사용자 및 접근 권한을 관리하는 공개 신원 관리 시스템이다. 중앙 로그인과 외부 신원 제공자 및 사용자 디렉터리를 연결해 인증 환경을 구성한다.

기술↗

Cedar 정책 언어

Cedar는 응용의 접근 권한 정책을 작성하고 요청의 허용 여부를 판단하는 언어다. 업무 처리 코드와 권한 논리를 나누고 주체와 행위 및 자원과 문맥을 바탕으로 규칙을 평가한다.

기술↗

OpenFGA

OpenFGA는 응용의 세밀한 접근 권한을 관계 기반 모델로 표현하고 확인하는 공개 인가 시스템이다. 권한 논리를 응용 코드 밖에서 관리하고 API로 판단을 요청하는 구조를 제공한다.

기술↗

Casbin

Casbin은 응용의 자원 접근 권한을 판단하는 공개 접근 제어 라이브러리다. 요청과 모델 및 정책을 평가하고 역할 기반과 속성 기반 같은 여러 권한 표현 방식을 지원한다.

기술↗

SpiceDB

SpiceDB는 응용 자원과 사용자 사이의 관계를 바탕으로 접근 권한을 확인하는 공개 데이터베이스 시스템이다. Google Zanzibar의 설계에서 영향을 받았으며 스키마와 관계 자료를 이용해 권한을 표현한다.

기술↗

아이폰 80% 충전 한도에서 가끔 100% 충전되는 이유

충전 한도를 낮춰도 가끔 완충되는 이유와 최적화된 배터리 충전의 차이, 설정을 확인하는 방법을 정리한다.

기술↗

Open Policy Agent

Open Policy Agent는 응용의 정책 판단을 공통 코드와 API로 제공하는 범용 정책 엔진이다. 선언형 언어 Rego로 규칙을 작성하고 구조화된 입력 자료를 평가해 판단 결과를 돌려준다.

기술↗

Apache Ranger

Apache Ranger는 Hadoop 생태계의 자료 접근 정책과 사용자 접근 이력을 중앙에서 관리하는 보안 프레임워크다. 여러 자료 처리 도구의 권한 규칙과 감사를 공통 관리 방식으로 연결한다.

기술↗

Apache Atlas

Apache Atlas는 Hadoop과 기업 자료 환경의 메타데이터를 관리하는 거버넌스 프레임워크다. 기술 정보와 운영 이력 및 자료 계보를 업무 분류 정보와 연결하고 여러 도구가 공통 메타데이터를 활용하도록 한다.

기술↗

OpenMetadata

OpenMetadata는 자료 자산의 기술 정보와 품질 및 계보와 업무 의미를 함께 관리하는 공개 메타데이터 플랫폼이다. 여러 시스템에서 모은 정보를 그래프로 연결해 자료 탐색과 관리에 활용한다.

기술↗

DataHub 메타데이터

DataHub는 여러 자료 시스템의 메타데이터를 모아 자료를 찾고 관계를 살펴보며 관리하는 플랫폼이다. 메타데이터 그래프와 자료 계보를 바탕으로 테이블과 열 및 관련 업무 정보를 연결한다.

기술↗

OpenLineage

OpenLineage는 자료 계보의 메타데이터를 수집하고 서로 교환하기 위한 공개 프레임워크와 규격이다. 자료 집합과 작업 및 실행을 공통 모델로 표현해 여러 처리 도구의 실행 정보를 연결한다.

기술↗

Great Expectations

Great Expectations는 자료가 기대하는 품질 조건을 만족하는지 검사하는 프레임워크다. Python 라이브러리인 GX Core로 자료 연결과 검사 규칙 및 실행 결과 처리를 구성한다.

기술↗

Pandera

Pandera는 데이터프레임과 비슷한 자료 객체의 구조와 값을 실행 중에 검사하는 Python 라이브러리다. 스키마와 검사 조건으로 기대하는 자료의 특성을 정의하고 처리 파이프라인에 검증을 연결한다.

기술↗

Feast 피처 스토어

Feast는 기계학습의 입력 특성을 정의하고 관리하며 학습과 추론에 제공하는 공개 피처 스토어다. 과거 자료를 읽는 오프라인 저장소와 실시간 특성을 제공하는 온라인 저장소를 연결한다.

기술↗

lakeFS

lakeFS는 데이터 레이크의 자료를 Git과 비슷한 분기와 커밋 및 병합 개념으로 관리하는 버전 제어 시스템이다. 원본 자료는 저장소에 둔 채 메타데이터 계층에서 자료 버전과 변경의 관계를 관리한다.

기술↗

DVC 데이터 버전 관리

DVC는 큰 자료 집합과 기계학습 모델의 버전을 코드와 함께 관리하는 도구다. Git에는 자료의 메타데이터를 기록하고 실제 자료는 캐시와 별도 저장소에 보관해 연결한다.

기술↗

MLflow

MLflow는 기계학습 모델과 AI 응용의 개발 및 운영 과정을 관리하는 공개 플랫폼이다. 실험 기록과 평가 및 모델 버전 관리와 배포 기능을 제공해 계산 결과와 운영할 모델을 연결한다.

기술↗

Kedro

Kedro는 Python 함수와 자료 입출력을 파이프라인으로 구성하는 프레임워크다. 노드의 입력과 출력을 이름으로 정의하고 자료 카탈로그를 통해 실제 저장소의 읽기와 쓰기를 연결한다.

기술↗

Luigi 워크플로

Luigi는 여러 배치 작업을 의존 관계로 연결하는 Python 패키지다. 작업 간 선후 관계와 실행 및 실패 처리를 관리하고 웹 화면으로 처리 상태를 살펴볼 수 있게 한다.

기술↗

Ray 분산 계산

Ray는 Python과 기계학습 응용을 여러 계산 자원으로 확장하는 공개 프레임워크다. 범용 분산 계산 기능과 학습 및 자료 처리용 라이브러리와 클러스터 실행 기반을 함께 제공한다.

기술↗

Dask

Dask는 Python 계산을 병렬로 실행하거나 여러 장비에 분산하는 라이브러리다. 작업 단위의 실행 인터페이스와 배열 및 데이터프레임 같은 자료 구조를 제공해 계산의 형태에 맞는 표현을 선택하게 한다.

기술↗

Metaflow

Metaflow는 자료 집약적인 응용의 개발과 배포 및 운영을 돕는 Python 라이브러리다. 데이터 과학과 기계학습 프로젝트에서 처리 흐름과 실행 환경 및 결과물을 연결해 관리한다.

기술↗

dbt 데이터 변환

dbt는 저장소의 원시 자료를 분석에 사용할 모델로 변환하는 도구와 프레임워크다. SQL 중심의 모델 정의와 의존 관계를 프로젝트로 관리하고 테스트와 문서화 및 버전 관리 같은 개발 방식을 자료 변환에 적용한다.

기술↗

Argo Workflows

Argo Workflows는 Kubernetes에서 여러 단계의 컨테이너 작업을 연결하고 실행하는 워크플로 엔진이다. 작업 순서나 의존 관계를 정의해 자료 처리와 기계학습 및 빌드 같은 작업을 구성한다.

기술↗

Temporal 워크플로

Temporal은 장애가 발생해도 작업 흐름의 상태와 진행을 유지하도록 돕는 실행 플랫폼이다. 실행 이력을 보관하는 서비스와 응용 코드를 수행하는 Worker를 연결해 지속 가능한 워크플로 실행을 구성한다.

기술↗

Dagster

Dagster는 자료 자산과 그 계산 관계를 코드로 정의하고 실행을 관리하는 데이터 오케스트레이션 도구다. 테이블과 파일 및 저장한 모델 같은 결과물을 중심으로 의존 관계와 실행 상태를 살펴보게 한다.

기술↗

Prefect

Prefect는 Python 함수로 작업 흐름을 만들고 실행 상태를 관리하는 오케스트레이션 엔진이다. 작업의 성공과 실패 및 재시도 상태를 추적하고 실행 중의 자료나 조건에 따라 흐름을 구성할 수 있다.

기술↗

Apache Airflow

Apache Airflow는 작업 흐름을 코드로 정의하고 실행 시점을 정하며 상태를 관찰하는 공개 플랫폼이다. Python으로 작업과 의존 관계를 작성하고 웹 화면에서 실행 결과와 로그를 확인한다.

기술↗

Apache NiFi

Apache NiFi는 시스템 사이의 자료 흐름을 자동화하고 관리하는 소프트웨어다. 처리기들을 연결한 흐름으로 자료의 수집과 변환 및 전달을 구성하고 자료가 지나간 과정을 추적한다.

기술↗

Apache Camel

Apache Camel은 여러 응용과 전송 방식을 연결하는 통합 프레임워크다. 메시지의 라우팅과 중개 규칙을 작성하고 구성 요소를 조합해 서로 다른 시스템 사이의 처리 경로를 만든다.

기술↗

Debezium

Debezium은 데이터베이스의 변경을 사건 스트림으로 전달하는 변경 자료 캡처 도구다. 원천 데이터베이스의 변경 기록을 읽어 다른 저장소나 응용이 갱신 내용을 활용하도록 연결한다.

기술↗

ZeroMQ

ZeroMQ는 분산 응용과 동시 실행 응용을 위한 비동기 메시징 라이브러리다. 여러 통신 패턴과 전송 방식을 공통 인터페이스로 제공하며 전용 메시지 브로커 없이도 응용을 연결할 수 있다.

기술↗

MQTT

MQTT는 자원이 제한된 장치와 네트워크에서도 사용할 수 있도록 설계한 발행과 구독 메시징 프로토콜이다. 서버를 통해 응용 사이에 메시지를 전달하며 사물인터넷과 장치 간 통신에 활용한다.

기술↗

STOMP

STOMP는 클라이언트가 중개 서버를 통해 비동기 메시지를 주고받는 프로토콜이다. 명령과 헤더 및 본문으로 이루어진 프레임을 사용하며 단순한 구현과 서로 다른 시스템 사이의 상호 운용을 목표로 한다.

기술↗

Apache ActiveMQ

Apache ActiveMQ는 여러 메시징 프로토콜과 클라이언트를 연결하는 Java 기반 메시지 브로커다. JMS 기반 응용과 다양한 언어의 서비스를 중개하고 메시지 보관 및 브로커 간 연결을 제공한다.

기술↗

Apache RocketMQ

Apache RocketMQ는 생산자와 소비자 사이에서 메시지를 저장하고 전달하는 분산 메시징 시스템이다. 업무별 토픽과 메시지 큐를 사용하고 소비자 그룹별로 처리 진행을 관리한다.

기술↗

Apache BookKeeper

Apache BookKeeper는 순서대로 추가하는 로그 기록을 여러 서버에 복제해 보관하는 분산 저장 서비스다. Ledger라는 기록열을 제공하며 메시징 시스템이나 복구용 로그의 저장 기반으로 활용한다.