위키득계정 ↗
기술

메모리 오류 검사 도구 선택

메모리 오류 검사 도구 선택기술
검사 대상
C와 C플러스플러스 메모리 오류
개발 중 접근 검사
AddressSanitizer
할당과 값의 상태 검사
Memcheck
운영 중 표본 검사
GWP-ASan
메모리 오류 검사는 잘못된 접근, 해제 누락, 초기화되지 않은 값의 사용을 서로 나누어 접근해야 한다. 재빌드 가능 여부와 실행 환경, 필요한 관찰 범위에 따라 적합한 도구가 달라진다.

증상을 먼저 나누기

프로그램이 종료되는 현상과 메모리가 늘어나는 현상은 같은 문제가 아닐 수 있다. 해제한 객체를 다시 읽는 오류는 사용 후 접근의 문제이고, 작업이 끝났는데 소유한 메모리를 반환하지 않는 오류는 수명의 문제다. 아직 초기화하지 않은 값을 조건 판단에 쓰는 문제도 따로 존재한다. 따라서 “메모리 검사 도구 하나를 켠다”보다 지금 무엇을 확인하려는지 먼저 정해야 한다.

개발 중 잘못된 접근을 찾을 때

소스를 다시 빌드할 수 있다면 AddressSanitizer를 이용해 접근 오류를 재현하는 구성을 준비할 수 있다. 힙과 스택, 전역 영역의 범위 초과나 해제 후 사용 등 지원하는 오류를 실제 실행에서 검사한다. 컴파일과 최종 링크에 필요한 설정을 맞추고 디버깅 정보를 남겨야 보고서에서 소스 위치를 해석하기 쉽다. 계측하지 않은 외부 코드와 실행하지 않은 경로가 있다는 사실도 고려한다.

진단 표를 읽는 기준

도구 이름보다 어떤 사건을 관찰하고 어떤 자료가 필요한지 비교하는 편이 정확하다. 같은 실행 파일에서 나온 결과라도 검사 범위와 실패 시점이 다르면 서로 다른 문제를 보고할 수 있다.

도구주요 질문해석할 때의 주의점
AddressSanitizer실행한 코드가 잘못된 주소에 접근했는가계측 범위와 실행 경로 확인
Memcheck접근 주소와 사용하는 값의 상태가 적절한가실패 사용 위치와 원인 위치 구분
LeakSanitizer해제되지 않은 할당이 남았는가검사 시점과 제외 설정 확인
GWP-ASan표본 할당에서 힙 오류가 나타났는가확률적 발견이며 전수 검사가 아님

초기화와 할당 상태를 함께 볼 때

Memcheck는 유효하지 않은 접근과 초기화되지 않은 값의 사용, 부적절한 해제 등 여러 종류의 메모리 오류를 다룬다. 값의 상태를 추적하는 검사와 접근 가능한 주소를 판정하는 검사는 구분된다. 예를 들어 할당한 영역의 주소가 유효해도 아직 쓰지 않은 값을 읽어 분기에 사용하면 별도 문제가 된다. 보고서에서 읽기가 발생한 위치와 잘못된 값이 생긴 원인을 같은 것으로 혼동하지 않는다.

메모리가 계속 증가하는 경우

누수 보고를 원한다면 LeakSanitizer의 지원 플랫폼과 실행 구성을 확인한다. AddressSanitizer와 결합하거나 독립된 구성으로 사용할 수 있으며 종료 단계의 검사가 중요하다. 반면 포인터가 계속 남아 있는 캐시나 작업 대기열은 사용량이 증가해도 전형적인 손실 누수와 다르게 보일 수 있다. 이때는 Massif나 Heaptrack 같은 사용량 분석으로 어느 경로가 메모리를 유지하는지 조사하는 접근이 필요하다.

운영 환경에서 비용을 제한할 때

GWP-ASan은 모든 할당을 검사하지 않고 일부를 표본으로 선택한다. 선택된 할당에 가드 페이지를 적용해 범위 초과와 해제 후 사용 같은 오류를 찾도록 한다. 일반 할당기에 연결해 사용하는 기반이며 전체 대체 할당기는 아니다. 낮은 비용은 표본 범위와 맞바꾼 특성이므로 같은 오류가 매번 발견된다고 기대해서는 안 된다. 보고가 없다는 사실도 안전하다는 증거가 되지 않는다.

실패 보고서를 재현으로 연결하기

실무에서는 실패한 입력과 실행 파일의 빌드, 활성 옵션, 심벌 자료를 하나의 재현 단위로 묶어 보관하는 편이 유용하다. 접근 오류라면 할당과 해제 및 실패 접근의 순서를 비교하고, 누수라면 정상 종료까지 해당 소유권이 어떻게 정리되는지 살핀다. 외부 라이브러리 경고를 억제할 때도 제외한 대상과 이유를 기록한다. 경고를 숨기는 설정 변경을 코드 수정과 같은 해결로 취급하지 않는다.

수정 뒤 확인할 범위

고친 뒤에는 원래 실패 입력을 다시 실행하고 같은 수명 규칙을 공유하는 경로를 함께 검사한다. 예를 들어 오류 처리 분기에서만 정리가 빠졌다면 정상 경로 테스트만으로 회귀를 막기 어렵다. 진단 도구의 성공, 기능 테스트의 성공, 운영 부하에서의 성능은 각각 별도로 확인할 사항이다. 한 번의 성공 실행이 모든 입력과 모든 스레드 순서를 검증한 것은 아니다.

관련 문서

AddressSanitizer / Memcheck / LeakSanitizer / GWP-ASan / Massif / Heaptrack