5.1 KiB

Raw Blame History

NFS Usage Exporter

NFS PV 사용량을 측정하여 Prometheus 메트릭으로 노출하는 Flask 기반 exporter.

개요

Kubernetes에서 NFS 기반 PV(PersistentVolume)의 실제 디스크 사용량을 du 명령어로 측정하고, Prometheus가 수집할 수 있는 메트릭 형태로 제공합니다.

프로젝트 구조

nas-metrics-prometheus/
├── app.py                 # Flask 애플리케이션 (메인)
├── requirements.txt       # Python 의존성
├── Dockerfile             # 컨테이너 이미지 빌드
└── chart/                 # Helm Chart
    ├── Chart.yaml
    ├── values.yaml
    └── templates/
        ├── deployment.yaml
        ├── service.yaml
        └── networkpolicy.yaml

주요 기능

/usage/<dir_name> - PV 디렉토리명으로 사용량 조회 (JSON 응답)
/metrics - Prometheus 메트릭 엔드포인트
캐시 TTL 300초 (동일 PV 반복 조회 시 du 재실행 방지)
threading.Lock으로 동시 du 실행 방지 (NFS I/O 부하 제한)
ionice -c 3, nice -n 19로 I/O/CPU 우선순위 최저 설정

메트릭

메트릭	설명	라벨
`nfs_pv_usage_bytes`	PV 사용량 (bytes)	`pv_name`, `request_name`
`nfs_pv_last_check_timestamp`	마지막 측정 시각 (unix timestamp)	`pv_name`, `request_name`

라벨 설명

pv_name: 실제 PV 이름 (예: pvc-2af1e8be-8cd9-4219-8cef-dc4dc1e0b06d)
request_name: NFS 디렉토리 전체 이름 (예: ns-pvcname-pvc-2af1e8be-8cd9-4219-8cef-dc4dc1e0b06d)

디렉토리명에서 UUID 패턴(pvc-[8-4-4-4-12])을 정규식으로 추출하여 pv_name으로 사용합니다.

API 사용법

사용량 조회

curl http://nfs-usage-exporter.nas-metrics.svc:8080/usage/<디렉토리명>

응답 예시:

{
  "pv_name": "pvc-2af1e8be-8cd9-4219-8cef-dc4dc1e0b06d",
  "request_name": "nas-metrics-test-pvc-20gi-pvc-2af1e8be-8cd9-4219-8cef-dc4dc1e0b06d",
  "bytes": 21474836480
}

Prometheus 메트릭

curl http://nfs-usage-exporter.nas-metrics.svc:8080/metrics

응답 예시:

nfs_pv_usage_bytes{pv_name="pvc-2af1e8be-...",request_name="ns-mypvc-pvc-2af1e8be-..."} 2.147483648e+10
nfs_pv_last_check_timestamp{pv_name="pvc-2af1e8be-...",request_name="ns-mypvc-pvc-2af1e8be-..."} 1.707200000e+09

배포 방법

1. Docker 이미지 빌드 및 Push

# Harbor 로그인
echo '<PASSWORD>' | sudo docker login harbor.inje-private.com -u admin --password-stdin

# 이미지 빌드
sudo docker build -t harbor.inje-private.com/infra/nfs-usage-exporter:v1.1.0 .

# 이미지 Push
sudo docker push harbor.inje-private.com/infra/nfs-usage-exporter:v1.1.0

2. Helm Chart 패키지 및 Push

# Helm OCI 로그인
echo '<PASSWORD>' | helm registry login harbor.inje-private.com -u admin --password-stdin

# 패키지
helm package ./chart

# Push
helm push nfs-usage-exporter-1.2.0.tgz oci://harbor.inje-private.com/infra

3. Helm 설치/업그레이드

# 최초 설치
helm install nfs-usage-exporter \
  oci://harbor.inje-private.com/infra/nfs-usage-exporter \
  --version 1.2.0 \
  -n nas-metrics \
  --create-namespace

# 업그레이드
helm upgrade nfs-usage-exporter \
  oci://harbor.inje-private.com/infra/nfs-usage-exporter \
  --version 1.2.0 \
  -n nas-metrics

4. 배포 확인

# 파드 상태 확인
kubectl get pods -n nas-metrics

# 롤아웃 확인
kubectl rollout status deployment/nfs-usage-exporter -n nas-metrics

# 서비스 확인
kubectl get svc -n nas-metrics

Helm Chart 설정 (values.yaml)

파라미터	기본값	설명
`replicaCount`	`1`	파드 수
`image.repository`	`harbor.inje-private.com/infra/nfs-usage-exporter`	이미지 레포지토리
`image.tag`	`v1.1.0`	이미지 태그
`service.type`	`ClusterIP`	서비스 타입
`service.port`	`8080`	서비스 포트
`resources.limits.cpu`	`500m`	CPU 제한
`resources.limits.memory`	`256Mi`	메모리 제한
`nodeSelector.nodegroup`	`nd`	노드 셀렉터
`nfs.server`	`192.168.0.54`	NFS 서버 IP
`nfs.path`	`/GJ_SHARE_FS6/39197c35-...`	NFS 마운트 경로
`networkPolicy.enabled`	`true`	NetworkPolicy 활성화
`networkPolicy.allowedNamespaces`	`[gpulive, monitoring, nas-metrics]`	접근 허용 네임스페이스

아키텍처

Prometheus ──scrape──> Service (:8080/metrics)
                         │
                         v
                   nfs-usage-exporter Pod
                         │
                    /mnt/pvs (ReadOnly)
                         │
                         v
                   NFS Server (192.168.0.54)
                   /GJ_SHARE_FS6/...

NFS 볼륨을 ReadOnly로 마운트하여 데이터 안전성 보장
Service에 prometheus.io/scrape: "true" 어노테이션으로 Prometheus 자동 수집
NetworkPolicy로 gpulive, monitoring, nas-metrics 네임스페이스에서만 접근 허용

Git 저장소

git clone https://gitea.inje-private.com/selee/nas-metrics-prometheus.git

5.1 KiB Raw Blame History