공공기관·국립대의 AI 인프라 도입, 어디서부터 시작해야 하나

공공기관과 국립대에서도 AI 인프라 도입이 빠르게 늘고 있습니다.

국가 연구소는 대규모 모델 학습을 위해, 대학은 여러 연구실이 GPU를 공유하기 위해, 공공기관은 AI 기반 서비스 운영을 위해 GPU 인프라를 검토하고 있습니다.

하지만 민간 기업과 달리, 공공기관에서 AI 인프라를 도입하는 과정에는 독특한 허들이 있습니다.

공공기관 AI 인프라 도입의 현실적인 허들

1. 조달 절차의 복잡성

공공기관은 원칙적으로 경쟁입찰을 통해 제품을 도입합니다. 입찰 공고를 내고, 제안서를 받고, 평가하고, 협상하는 과정에 수개월이 걸리죠.

GPU 인프라 운영 소프트웨어처럼 전문성이 필요한 제품의 경우, 입찰 조건을 설계하는 것 자체도 쉽지 않습니다. 담당자 입장에서는 좋은 제품을 찾는 것보다, 도입 과정이 단순하고 검증된 경로를 선택하는 것이 현실적으로 더 중요한 경우가 많습니다.

2. 내부 검증과 의사결정 부담

새로운 솔루션을 도입하려면 내부적으로 "이 제품을 써도 되는가"에 대한 검증 과정을 거쳐야 합니다. 기술 검토, 보안 검토, 예산 심의 등 여러 단계를 통과해야 하는데, 이 과정에서 소요되는 시간과 에너지가 상당합니다. 그렇기에 국가 기관이 이미 검증을 완료한 제품이라면 이 과정이 크게 단축됩니다.

3. 기술 인력 부족

공공기관의 전산 조직은 인원이 제한적인 경우가 많습니다. Kubernetes 기반 GPU 인프라를 직접 설계하고 운영할 전문 인력을 확보하기 어려운 상황에서, 도입과 운영이 간단한 솔루션에 대한 니즈가 큽니다.

4. 멀티부서·멀티연구실 공유 환경

여러 연구실과 다양한 프로젝트가 동일한 GPU 클러스터를 공유할 경우, 자원 충돌, 비용 귀속, 접근 제어가 구조적으로 해결되지 않으면 운영이 지속되기 어렵습니다. 그렇기에 명확한 제어가 가능한지가 중요한 포인트가 되겠죠.

나라장터 등록이 공공기관의 도입 허들을 어떻게 낮추는가

TEN의 AIPub은 조달청 나라장터 디지털서비스몰에 등록되어 있습니다.

이 등록이 공공기관 담당자에게 실질적으로 의미하는 바를 정리하면 다음과 같습니다.

경쟁입찰 없이 수의계약으로 바로 도입할 수 있습니다. 나라장터 디지털서비스몰에 등록된 제품은 디지털서비스 전문계약제도에 따라 수의계약이 가능합니다. 수개월 걸리던 입찰 절차를 건너뛰고, 필요한 시점에 바로 계약할 수 있습니다.
조달청 심사를 통과한 제품이므로 내부 검증 부담이 줄어듭니다. 서비스의 품질, 안정성, 가격 적정성에 대한 심사를 이미 거친 제품입니다. 담당자 개인이 제품 선택에 대한 모든 검증 책임을 질 필요 없이, 검증된 조달 경로를 통해 안정적으로 도입할 수 있습니다.
전국 모든 공공기관과 국립대에서 접근 가능합니다. 중앙부처, 지자체, 공공기관, 국립대, 연구소 등 나라장터에 접속하는 모든 수요기관이 AIPub을 검색하고 도입을 검토할 수 있습니다.
기존 SI 구축 방식보다 도입 리스크가 낮습니다. 대규모 사전 구축 없이 솔루션 형태로 도입되기 때문에, 구축 기간과 초기 비용 부담이 크게 줄어듭니다.

정부 디지털서비스 도입 지원사업 연계

최근, 정부는 공공기관의 디지털 전환을 촉진하기 위해 디지털서비스 도입 비용을 지원하는 사업을 운영하고 있습니다.

나라장터 디지털서비스몰에 등록된 제품은 이 지원사업의 대상이 될 수 있어, 도입 비용 부담을 줄이면서 AI 인프라 투자를 실행에 옮길 수 있습니다.

지원사업의 세부 조건과 규모는 연도별로 달라질 수 있으므로, NIA(한국지능정보사회진흥원)의 디지털서비스 이용지원시스템에서 최신 공고를 확인하시길 권장합니다.

AIPub이 공공기관 환경에서 해결하는 문제

공공기관과 국립대의 GPU 인프라 운영에서 가장 빈번하게 발생하는 문제들이 있습니다.

여러 부서나 연구실이 자원을 선점하고 반환하지 않는 문제. AIPub은 GPU 1개를 최대 100개 블록으로 분할해 팀, 프로젝트, 서비스 단위로 정확히 배정합니다. 유휴 자원은 동적 할당을 통해 자동으로 회수하고 재분배합니다.
누가 얼마나 사용했는지 추적이 안 되는 문제. 블록 단위로 사용량이 추적되기 때문에 팀별, 프로젝트별 비용 귀속이 정확합니다. Daily/Weekly/Monthly 자동 리포트도 제공합니다.
Kubernetes 전문 인력이 부족한 문제. AIPub은 GUI 환경과 YAML/CLI 환경을 모두 제공합니다. Kubernetes에 익숙하지 않은 연구자도 GUI에서 바로 워크스페이스를 생성하고 작업을 실행할 수 있습니다.
장애 발생 시 원인 파악에 시간이 걸리는 문제. AIPub Helper가 주기적으로 Kubernetes 클러스터를 스캔하고, LLM 분석을 통해 장애의 근본 원인과 해결을 위한 Action Item까지 자동으로 제공합니다.

🤔 GPU 도입 전 설계가 필요하다면: RA:X

AI 인프라를 새로 구축하려는 공공기관이라면, GPU를 구매하기 전에 어떤 GPU를 얼마나 도입해야 하는지부터 결정해야 합니다.

TEN의 RA:X는 이 의사결정을 데이터로 지원하는 벤치마킹 기반 컨설팅 서비스입니다.

고객의 모델과 데이터 샘플을 TEN의 레퍼런스 아키텍처(DGX H100, DGX A100, L40S, L40, A40, T4 등 다양한 GPU 구성 보유)에서 직접 실행하고, 처리 속도, GPU 사용률, Inter-Token Latency 등의 성능 측정치를 기반으로 최적의 GPU 구성을 제안합니다. "어떤 GPU를 몇 대 사야 하나요?"라는 질문에 추측이 아닌 데이터로 답하는 맞춤형 컨설팅 서비스입니다.

> RA:X는 유료 컨설팅 서비스로 제공됩니다. GPU 인프라 도입 규모와 요구사항에 따라 맞춤형으로 진행되니, 상세 내용은 문의를 통해 확인해주세요.

공공기관 AI 인프라 도입 체크리스트

도입을 검토 중인 공공기관·국립대 담당자분들을 위해 아래 간단한 핵심 체크리스트를 정리합니다. 만약, 이 질문에 명확한 답변이 어렵다면, AI 인프라 운영 체계를 재설계할 시점입니다.

✅ 우리 기관의 워크로드는 학습 중심인가, 추론 중심인가, 혼합형인가?
✅ 분산된 GPU 자원을 사용하는 여러 부서나 연구실이 통합된 GPU 인프라를 공유할 수 있는 환경인가?
✅ 현재 GPU 활용률을 정확히 파악하고 있는가?
✅ 팀별, 프로젝트별 사용량과 비용을 추적할 수 있는가?
✅ 나라장터 등록 제품으로 수의계약이 가능한 솔루션인가?

이미 수백개의 공공기관과 대학에서 선택한 TEN과 함께 우리 조직에 맞는 AI 인프라 도입을 해결해보세요!
나라장터 디지털서비스몰</mark>에서 '주식회사 텐'으로 검색하시면 AIPub을 확인하실 수 있습니다.

👉 나라장터 디지털서비스몰 바로가기
👉 AIPub 자세히 보기
📩 전문가와 직접 상담하기

함께 읽어보면 좋은 글