초거대 인공지능(AI) 연구·개발을 위한 신경망처리장치(NPU) 인프라를 온라인 전용 포털에서 클릭 몇 번만으로 쉽게 이용할 수 있게 됐다.
KT(030200)클라우드는 토종 반도체 설계 전문기업(팹리스) 리벨리온의 ‘아톰’을 적용한 클라우드 기반 NPU 인프라 서비스를 지난 5월 30일부터 국내 최초로 상용화했다고 27일 밝혔다.
NPU는 AI 연산에 최적화된 설계돼 AI 반도체로 불린다. 동급의 그래픽처리장치(GPU) 대비 연산 속도가 빠르고 전력 소모는 낮은 것이 특징이다. 전세계 GPU 시장의 90%를 차지하는 AI 강자 엔비디아 제품에 비해 범용성은 떨어지나 추론 등 일부 영역에서는 GPU를 대체할 수 있을 것으로 기대 받고 있다.
이 회사는 클라우드에서 NPU를 이용할 수 있도록 플랫폼에 적용하고, NPU 자원 공유 풀 구성·관리·오토 프로비저닝 구현 등을 구현했다. 기업들은 전용 포털을 통해 쉽고 간편하게 NPU 기반의 AI 추론을 진행할 수 있다.
클라우드 서비스로 구현된 만큼 클릭 몇 번으로 고객이 직접 자원을 생성하고, 연산 세션을 활용할 수 있다. 구축형 인프라보다 관리·사용량 모니터링 등도 수월하다.
회사는 NPU 인프라를 AI반도체 초기 시장 수요 창출을 지원하고 중소·벤처기업 대상 국산 AI반도체 기반 컴퓨팅 자원 지원을 목적으로 하는 ‘K-클라우드 프로젝트’ 지원 사업 대상 기업에게 먼저 제공한다. 이어 올해 하반기 중 기업들을 대상으로 서비스를 확대할 계획이다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
hjin@sedaily.com
