GPU 활용률의 함정: 60%의 진실
PU 활용률 60%가 실제로는 놀고 있는 상태일 수 있습니다. nvidia-smi의 사용률 지표가 왜 실제 연산량을 반영하지 못하는지, MFU 같은 진짜 지표는 무엇인지, 정확한 측정 방법을 정리했습니다.
GPU 활용률 5%의 진짜 원인 5가지
비싸게 산 GPU의 평균 활용률이 5%에 그치는 이유는 GPU 부족이 아닙니다. 유휴 자원, 독점 점유, 스케줄링 부재 등 활용률을 갉아먹는 5가지 원인과 진단·개선 방법을 정리했습니다.
쿠버네티스 GPU 스케줄링 완벽 정리
쿠버네티스로 GPU를 스케줄링할 때 왜 자원이 남는데 작업은 대기할까요? GPU 스케줄링의 개념과 기본 방식의 한계, 자원 파편화 문제, 그리고 효율적인 GPU 배치를 위해 필요한 조건을 정리했습니다.
GPU 공간분할로 활용률 높이는 법
하나의 GPU에 여러 작업을 올리면 서로 간섭해 성능이 떨어집니다. GPU를 독립된 공간으로 나눠 여러 워크로드가 간섭 없이 나눠 쓰는 공간분할의 원리와, AIPub이 이를 어떻게 구현하는지 정리했습니다.
