KT(030200)클라우드(kt cloud)가 GPUaaS(구독형 GPU 서비스)에 엔비디아의 최신 그래픽처리장치(GPU)인 H200 적용을 추진한다. KT클라우드는 AI 인프라가 필요한 국내 다수의 공공기관과 AI 스타트업을 대상으로 사용량 기반의 탄력적인 GPU 자원 이용이 가능한 GPUaaS를 제공 중이다.
KT클라우드는 자사 데이터센터에 H200을 적용하는 시점을 오는 3분기로 계획하고 있다. 특히 경북 예천군에 구축하는 클라우드 전용 데이터센터(CDC) 개소에 맞춰 본격적으로 H200 도입을 확대할 예정이다.
특히 KT클라우드는 기존 H100 중심으로 운영되던 'AI 트래인(AI Train)' 서비스에 H200을 적용해 한층 강화된 성능을 구현한다는 계획이다. AI 트래인은 단기간 대용량∙고사양의 GPU 공급이 요구되는 학습 영역에 특화된 서비스를 말한다. 엔비디아에 따르면 H200은 이전 제품인 H100보다 메모리와 대역폭이 각각 1.5배, 1.2배 증가해 최대 1.7배 빠른 추론 성능을 제공한다.
KT클라우드는 GPU뿐만 아니라 신경망처리장치(NPU) 영역에도 대응하기 위해 리벨리온과 협력해 추론 전용 인프라인 'AI SERV NPU' 서비스를 제공 중이다. 올해 5월 출시 예정인 리벨리온 ‘아톰 맥스’를 AI SERV NPU에 적용해 소형언어모델(sLM)이 요구하는 NPU 성능 검증을 진행한다. 또 KT클라우드는 미국 반도체 설계 업체 암페어(Ampere)와도 AI 반도체 사업 협력을 검토하는 등 업계 주요 사업자와 다양한 협력을 통해 지속적으로 사업 영역을 확장할 계획이다.
공용준 KT클라우드 Cloud본부장은 "이번 엔비디아 H200 도입을 통해 글로벌 수준의 AI 인프라를 확보하며 AI 클라우드 사업자로서의 역량을 한층 높일 수 있게 됐다"며 "향후 인프라 뿐 아니라 AI Ops 등 AI 서비스 포트폴리오를 강화하고, AI 기술 경쟁력을 높이며 다양한 고객 니즈를 맞춰 나가겠다"고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
ryupro@sedaily.com
