SK하이닉스(000660)가 지난 12일(현지 시간)부터 사흘 간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 ‘AI 하드웨어&엣지 AI 서밋 2023’에서 GDDR6-AiM(Accelerator in Memory) 기반의 생성형 인공지능(AI) 가속기 AiMX 시제품을 최초 공개했다고 18일 밝혔다.
AI 서밋은 영국 마케팅 기업 키사코 리서치(Kisaco Research)가 주최하는 연례 행사로 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.
SK하이닉스는 이번 서밋에 ‘인공지능 성능을 가속하는 SK하이닉스의 PIM(Processing-In-Memory) 반도체 AiM'이라는 주제로 참가해 AiMX 시제품을 처음 선보였다. AiMX는 SK하이닉스의 PIM 적용 첫 제품인 ‘GDDR6-AiM’ 여러 개와 컨트롤러를 연결해 만든 대규모 언어 모델 특화 가속기 제품이다. 앞서 SK하이닉스는 지난해 2월 메모리 반도체에 연산 기능을 접목한 차세대 제품인 PIM이 적용된 GDDR6-AiM 샘플을 개발한 바 있다.
SK하이닉스는 이번 행사에서 메타(Meta)의 생성형 AI인 ‘OPT 13B’ 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다. 그 결과 그래픽처리장치(GPU)를 탑재한 시스템 대비 반응 속도는 10배 이상 빨랐지만 전력 소모는 5분의 1 수준에 그쳤다.
AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. 임의철 SK하이닉스 부사장(메모리솔루션담당)은 ‘생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션’이라는 주제 발표에서 “AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션”이라며 “앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
we1228@sedaily.com
