MLOps나 AI 인프라 이야기를 하다 보면 DevOps, CI/CD 같은 용어가 자주 등장합니다. AI를 이해하기 위해 먼저 알아두면 좋은 IT 기본 용어 세 가지를 정리했습니다.
정보 사일로(Information Silo)
정보 사일로는 곡식을 저장하는 탑(silo)에서 유래한 말로, 조직 간에 정보가 공유되지 않고 고립되는 현상을 가리킵니다.
각 부서가 자기 안에서만 정보를 쌓아두면, 부서 간 협업이 어려워지고 전체적인 시너지를 내기 힘들어집니다. AI 개발에서도 데이터팀, 개발팀, 운영팀이 각자 사일로에 갇혀 있으면 프로젝트가 느려지고 비효율이 생깁니다. 이 문제를 풀기 위해 등장한 개념이 다음의 DevOps입니다.
DevOps
DevOps는 개발(Development)과 운영(Operations)의 합성어로, 개발자와 운영 담당자 간의 소통·협업·통합을 강조하는 문화이자 방식입니다.
전통적으로 개발 조직과 운영 조직은 분리되어 있었습니다(정보 사일로). DevOps는 이 둘을 하나의 흐름으로 묶어, 개발부터 테스트·배포·운영까지 전체 수명주기를 함께 다루도록 합니다. 목적은 분명합니다. 소프트웨어를 더 빠르고 안정적으로 개발·배포하는 것입니다. 이를 위해 뒤에 나올 CI/CD를 운영에 도입합니다.
CI/CD
CI/CD는 DevOps를 실현하는 핵심 자동화 방식입니다.
CI(Continuous Integration, 지속적 통합)는 여러 개발자가 작성한 코드를 정기적으로 빌드·테스트해 공유 저장소에 통합하는 것을 말합니다. 각자 개발한 코드 간의 충돌을 조기에 잡아낼 수 있습니다.
CD(Continuous Delivery/Deployment, 지속적 제공/배포)는 통합된 변경사항을 저장소를 넘어 실제 사용자 환경까지 자동으로 배포하는 것을 말합니다. 사용자는 개선된 기능을 더 빠르게 제공받습니다.
CI와 CD를 자동화하면 개발·배포 과정이 빠르고 효율적으로 돌아갑니다.
왜 AI 인프라에서 중요할까?
용어 | 핵심 | AI 인프라에서의 의미 |
|---|---|---|
정보 사일로 | 정보 고립 | 팀 간 자원·데이터 단절이 비효율 유발 |
DevOps | 개발·운영 통합 | AI 개발·배포·운영을 하나의 흐름으로 |
CI/CD | 통합·배포 자동화 | 모델 업데이트를 빠르고 안정적으로 |
이 개념들이 머신러닝 영역으로 확장된 것이 바로 MLOps입니다. AI 모델을 개발하고 배포·운영하는 전 과정을 자동화·체계화하는 것이죠. 그리고 그 아래에서 GPU 같은 물리 자원을 효율적으로 배분하고 관리하는 것이 GPU 인프라 운영의 영역입니다.
여러 팀이 GPU 자원을 사일로 없이 나눠 쓰는 방법이 궁금하다면, AIPub을 확인해 보세요.