클라우드 네이티브 추론과 GPU 분할
기존 LLM 추론은 CUDA Graph 최적화가 필요하지만, CUDA Graph는 자원 할당을 캡처 시점에 고정합니다. TEN RA:X 팀이 SoCC ‘26에서 발표하는 GRIP은 이를 제자리에서 풀어 경합 시 최대 2.1배 처리량을 냅니다.
Nginx Ingress에서 Cilium으로: 프로덕션 Kubernetes 클러스터 무중단 전환 회고
Ingress-NGINX 지원 종료로 프로덕션 Kubernetes 클러스터를 Cilium으로 전환했습니다. kube-proxy 제거 후 열흘에 걸쳐 드러난 SNI·타임아웃·NodePort·모니터링 이슈 다섯 가지와 그 교훈을 정리했습니다.