'타도 엔비디아' 외친 구글 "슈퍼컴퓨터용 칩 A100 속도의 1.7배"

구글, TPU 4세대 모델 성능 공개

A100 대비 70% 빠르고 전력 효율 90% ↑

/로이터연합뉴스

구글이 인공지능(AI) 슈퍼컴퓨터에 들어가는 자체 칩이 엔비디아의 A100을 뛰어넘는 성능을 보인다고 밝혔다.

5일(현지 시간) 구글은 텐퍼 프로세싱 유닛(TPU) 4세대 모델에 대한 논문을 통해 "구글의 4세데 TPU가 엔비디아의 A100 보다 1.7배 빠르고 전력 효율면에서는 1.9배의 효율을 자랑한다"고 이 같이 밝혔다.

생성형AI 시장이 빠르게 확산하는 과정에서 초거대 언어모델을 훈련하기 위해 필수적인 슈퍼컴퓨터용 칩 부문에서 존재감을 높이겠다는 전략이다. 현재 엔비디아의 데이터센터용 칩은 점유율이 90%에 육박하는 상태다.



구글에 따르면 구글의 4세대 TPU는 4000여개의 칩이 하나의 슈퍼컴퓨터처럼 동작한다. 이는 자체 광학용 스위치가 개별 기계들을 연결하는 데 도움을 주기에 유기체처럼 기능할 수 있다는 설명이다. 다만 이를 훈련하는 데만 수주 이상이 소요된다. 현존하는 최대 규모의 초거대 언어 모델인 팜(PaLM)의 경우 학습에만 50일 가량이 소요된다.

놈 주피 구글 펠로우와 데이비드 패터슨 구글 석학 엔지니어는 "스위치를 통해 확보한 유연성이 슈퍼컴퓨터의 위상을 바꾸고 머신 러닝(기계 학습) 모델의 성능을 극대화할 수 있게 한다"고 강조했다.

다만 구글은 엔비디아의 최신 데이터센터용 칩인 H100과 비교한 성능은 공개하지 않았다. 구글 측은 4세대 TPU가 개발될 당시 시점을 기준으로 비교했기 때문에 이후에 출시된 H100에 대한 비교 데이터는 없다고 설명했다. H100은 엔비디아 A100의 후속모델로, A연산 능력이 전작 대비 9배에 달한다고 알려져 있다.