TEN 블로그

AI 데이터센터의 병목이 GPU에서 변압기와 전력 인프라로 이동하고 있습니다. AI 서버의 전력 밀도가 높아지면서 전력 인입, 수배전 설비, 냉각 용량이 왜 핵심 과제가 되었는지 살펴보고, 제한된 전력 안에서 GPU 활용률과 운영 효율을 높이는 방법을 정리합니다.

네오클라우드는 AI 워크로드에 특화된 GPUaaS 클라우드입니다. GPU 확보 경쟁 이후, 수익성은 활용률·멀티테넌시·과금·운영 자동화를 갖춘 운영 계층에서 갈립니다. 네오클라우드의 정의와 수익화 운영 전략을 정리했습니다.

GPU 오케스트레이션 플랫폼을 비교합니다. 경쟁사 A·B·C의 주요 기능을 살펴보고, 주식회사 텐의 AIPub이 GPU 100분할·스케줄링·멀티테넌시·실시간 모니터링·서비스 운영 자동화를 어떻게 한 흐름으로 연결하는지 정리했습니다.

FLOPs/$만 보고 GPU를 선택하면 추론 비용에서 반드시 후회합니다. NVIDIA Blackwell Ultra의 cost-per-token 혁신과 인프라 운영 전략을 정리합니다.

CPU 중심 FinOps로는 GPU 비용을 통제할 수 없습니다. GPU idle time, cost-per-token, 팀별 Chargeback까지. AI 시대에 맞는 FinOps 전략과 AIPub의 블록 단위 빌링을 정리합니다.

2026 FIFA 북중미 월드컵에서는 Football AI Pro를 비롯한 AI 기술이 전술 분석, 중계, 팬 경험에 활용됩니다. 이번 글에서는 월드컵 AI 코치가 보여주는 AI Agent의 가능성과 이를 안정적으로 운영하기 위한 AI 오케스트레이션의 중요성을 살펴봅니다.

에이전틱 AI가 24시간 GPU를 소비하는 시대, 기존 인프라 운영 방식으로는 자원 충돌과 보안 문제를 통제할 수 없습니다. GPU 레벨을 넘어 전체 스택에 걸친 접근 제어가 필요한 이유를 정리합니다.

추론이 학습을 넘어서는 2026년, 우리 조직의 GPU 인프라는 준비되어 있을까요? KubeCon EU 2026의 NVIDIA GPU 스케줄링 표준화 소식과 AIPub의 실전 해법을 정리했습니다.

NVIDIA AI 팩토리는 데이터센터를 저장소가 아닌 지능 생산 공장으로 재정의합니다. Blackwell NVL72, 리즈닝 AI, 토큰 경제학(TCO)을 중심으로 AI 팩토리의 구조와 인프라 변화의 핵심을 정리했습니다.

AI 인프라 패러다임은 어떻게 바뀌고 있을까? NVIDIA의 Extreme Co-Design 전략과 Blackwell NVL72, Disaggregation 구조를 통해 칩에서 랙으로 확장되는 새로운 설계 방식을 분석합니다.

2025년 AI 업계를 뒤흔든 DeepSeek가 증명한 소프트웨어의 힘. NVIDIA가 지향하는 Extreme Co-Design이란 무엇인지, 왜 이들이 하드웨어를 넘어 시스템 전체를 재설계하는지, AI 팩토리 시대의 핵심 전략을 분석합니다.

세 번째 이야기 본 글은 NVIDIA GTC 2026을 앞두고 엔비디아의 핵심 전략인 'Extreme Co-Design'을 분석하는 5부작 시리즈의 세 번째 글입니다. 이번 편에서는 엔비디아가 구축한 'AI 팩토리'의 실체와 이것이 바꾸어 놓을 지능(Intelligence)의 경제학을 다룹니다.​

두 번째 이야기본 글은 NVIDIA GTC 2026을 앞두고 엔비디아의 핵심 전략인 'Extreme Co-Design'을 분석하는 5부작 시리즈의 두 번째 글입니다.

첫 번째 이야기본 글은 다가오는 NVIDIA GTC 2026의 핵심 의제인 'Extreme Co-Design'을 깊이 있게 이해하기 위해 기획된 5 편 시리즈의 첫 번째 글로, 2025년 AI 인프라의 패러다임을 바꾼 'DeepSeek' 사태를 엔지니어링 관점에서 분석했습니다.

2024년은 AI 산업에서 여러 기념비적인 사건들이 일어난 해로 기록될 것 같습니다. 새로운 AI 모델과 컴퓨팅 기술의 출시는 물론, 기업 합병과 혁신적인 연구 결과들이 주목을 받으며 산업 전반에 걸쳐 큰 영향을 미쳤습니다.

직장인 필수품이 된 AI, 많이 쓰인다는 업무용 AI 툴, 나만 모르고 있었나? 그래서 이번에는 좀 더 한국에서 인지도가 높고, 많이 사용하는 AI 툴을 소개해 드릴까 합니다.

모델 페럴리즘(Model Parallelism)과 데이터 페럴리즘(Data Parallelism)은 AI 학습과 운영 효율성을 높이는 데에 주로 쓰이는 기술이자 접근 방식입니다.

쿠버네티스는 인프라의 측면에서 그 필요성을 인정받아 널리 사용되고 있는 도구입니다. 컨테이너화된 애플리케이션을 자동으로 배포, 스케일링 및 운영할 수 있는 오픈 소스 플랫폼이에요. AI 개발과 운영을 더욱 효율적으로 관리할 수 있게 도와줍니다.

GenAIOps, LLMOps처럼 MLOps에서 출발하지만, 새로운 개념에 관해 이야기해 보려 하는데요. 바로 RAGOps입니다.

각 산업 분야에서 AI를 비즈니스 프로세스를 혁신하는 도구로 인지하면서 도입 규모와 방향 모두 다양합니다.

AIPub의 기반이 되는 쿠버네티스에 대해 알아보겠습니다. TEN에서 제공하는 AI Pub은 쿠버네티스(Kubernetes) 기반 플랫폼입니다. AI의 라이프사이클을 기준으로, AI Pub Dev는 개발과 학습, AI Pub Ops는 배포 및 운영에 초점이 맞춰져 있습니다.

최근 AI 산업에서 화두가 되는 것은 단연 ‘AI 인프라’입니다. 엔비디아가 매년 새로운 GPU를 공개하면서, 많은 사람에게는 GPU의 인상이 더 선명하게 각인되어 있을 텐데요. 이제 AI 인프라 산업은 GPU의 단위를 넘어 ‘데이터센터’의 개념을 바라보고 있습니다.

AI 인프라의 ‘비용’을 절감하는 차원에서 다양한 시도가 있었습니다. 모델 레벨에서의 시도, 모델을 출시하는 과정에서의 시도, 그리고 AI 도입 과정에서 사용할 수 있는 MLOps 솔루션 레벨에서의 시도가 있습니다. 오늘 글에서는 AI 인프라 비용을 절감하기 위한 다양한 노력에 대해 알아보겠습니다.

이번 글에서는 합리적인 인프라 구축, 운용을 도와줄, AI 인프라 업계의 다양한 도전, 신제품 소식들을 준비했습니다. 

화제의 GTC 2024 현장에 TEN이 다녀왔습니다. 엔비디아의 키노트를 직접 보고 온 GTC 후기를 공유합니다.

이번 주 화제의 중심에 있었던 NVIDIA GTC 2024, 어떻게 보셨나요? 오늘 글에서는 엔비디아의 키노트 내용을 알기쉽게 정리합니다.

쿠버네티스는 AI 개발, 학습하시는 분들이라면 무척 친숙한 플랫폼입니다. 이 글에서는 쿠버네티스를 더 완벽한 플랫폼으로 기능하도록 만들어주는 다양한 오픈소스 도구들을 몇 가지 소개해 드릴까 합니다.

지난번에 이어 ‘글로벌 MLOps 플레이어’들에 대해 알아보겠습니다. 이번 글에서는 글로벌 플레이어들이 그들의 제품으로 ML 생애주기 별로 어떠한 태스크를 지원하는 지 정리해 보고자 합니다.

이번 글은 오스트리아 소재의 MLOps 전문 회사 MLReef의 블로그를 재구성한 내용입니다. 수 백여 개의 MLOps 솔루션을 조사하고 전문가의 관점을 세워 분석한 상세 내용은 아래 링크에서 확인할 수 있습니다.