삼성전자가 세계 최초로 개발한 HBM-PIM(Processing in Memory)은 인공지능(AI) 엔진을 메모리에 탑재해 데이터 저장과 연산을 모두 가능하게 한 차세대 융합 기술이다. 그동안 이미지 분류, 음성 인식, 기계 번역 등 다양한 분야에서 AI 시스템을 끌어올리기 위해 메모리 성능 향상이 요구됐는데 HBM-PIM의 개발로 기존의 한계를 극복하고 효율성을 한층 강화한 메모리 솔루션이 탄생한 것이다.
17일 삼성전자가 공개한 HBM-PIM은 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용되는 HBM2 아쿠아볼트에 AI 엔진을 적용했다. 삼성전자는 지난 2018년 1월부터 2세대 고대역폭 메모리 반도체인 HBM2 아쿠아볼트를 양산해왔다. HBM에 탑재한 PIM은 신개념 융합 기술로 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더했다.
메모리 반도체에 AI엔진을 탑재한 HBM-PIM은 데이터 저장에 국한됐던 메모리 반도체 기능의 한계를 깼다는 데 의의가 있다. 그동안 대부분의 컴퓨터에서는 중앙처리장치(CPU)가 메모리로부터 명령어를 불러오고 실행하며 그 결과를 다시 메모리에 저장하는 작업을 하나의 통로를 통해 순차적으로 진행해왔다. 이 과정에서 CPU와 메모리 간 주고받는 데이터가 많아지면 그만큼 작업 처리가 늦어지는 문제가 있었다.
삼성전자는 이 같은 ‘병목 현상’을 해결하기 위해 메모리 내부에서 연산과 병렬 처리가 모두 가능한 PIM을 적용해 HBM에 AI 엔진을 탑재했다. 이에 따라 메모리 영역 내에서 데이터 연산이 가능해지며 CPU와 메모리 간 이동이 최소화됐다. 기존 HBM2에 비해 성능이 2배 이상 높아지고 시스템 에너지가 70% 이상 줄어든 것도 PIM 구조 덕분에 가능했다.
또한 기존 HBM 인터페이스를 그대로 지원해 HBM을 이용하는 고객들은 하드웨어나 소프트웨어의 변경 없이 강력한 AI 가속기 시스템을 구축할 수 있게 됐다는 것도 큰 장점이다.
삼성전자는 HBM-PIM이 AI 업계의 요구에 부합하는 새로운 메모리 솔루션이 될 것으로 기대하고 있다. 박광일 삼성전자 메모리 사업부 상품기획팀장 전무는 “HBM-PIM은 AI 가속기의 성능을 극대화시킬 수 있는 업계 최초의 AI 맞춤형 PIM 솔루션으로 삼성전자는 고객사들과 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해나갈 것”이라고 밝혔다. 릭 스티븐스 미국 아르곤 국립 연구소 컴퓨팅, 환경 및 생명과학(CELS) 연구실장 또한 “HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과”라며 “HBM-PIM 시스템 평가를 위해 향후에도 삼성전자와 지속적인 협력을 기대한다”며 삼성전자의 혁신 기술을 높이 평가했다.
삼성전자는 고객사들과 PIM 플랫폼의 표준화와 에코 시스템 구축을 위해 협력을 강화해 나간다는 방침이다.
/전희윤 기자 heeyoun@sedaily.com
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
