삼성전자, HBM3E 12H 개발…HBM 경쟁 치열

상반기 양산 예정…SK하이닉스도 HBM3E 양산 나서

[프라임경제] 삼성전자(005930)가 업계 최초로 36GB(기가바이트) HBM3E(5세대 HBM) 12H(12단 적층) D램 개발에 성공했다. SK하이닉스(000660)가 HBM(고대역폭메모리) 시장의 선두에 있는 가운데 고용량 HBM 시장 선점 경쟁이 치열해질 전망이다.

HBM3E 12H D램 제품 이미지. ⓒ 삼성전자

삼성전자는 24Gb(기가비트) D램 칩을 TSV(실리콘 관통 전극) 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12H를 구현했다고 27일 밝혔다. 

HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품이다. 생성형 AI 서버에 탑재되는 HBM 가격은 기존 메모리보다 6배 이상 높아 수익성도 뛰어나다. 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발되고 있다.

HBM3E 12H는 초당 최대 1280GB의 대역폭과 현존 최대 용량인 36GB을 제공해 성능과 용량 모두 전작인 HBM3 8H(8단 적층) 대비 50% 이상 개선된 제품이다.

삼성전자는 'Advanced TC NCF'(열압착 비전도성 접착 필름) 기술로 12H 제품을 8H 제품과 동일한 높이로 구현해 HBM 패키지 규격을 만족시켰다고 설명했다.

Advanced TC NCF 기술을 적용하면 HBM 적층수가 증가하고, 칩 두께가 얇아지면서 발생할 수 있는 '휘어짐 현상'을 최소화 할 수 있는 장점이 있어 고단 적층 확장에 유리하다.

삼성전자는 NCF 소재 두께도 지속적으로 낮춤으로써, 업계 최소 칩간 간격인 '7마이크로미터(um)'를 구현했다. 이를 통해 HBM3 8H 대비 20% 이상 향상된 수직 집적도를 실현했다.

특히 칩과 칩사이를 접합하는 공정에서 신호 특성이 필요한 곳은 작은 범프를, 열 방출 특성이 필요한 곳에는 큰 범프를 목적에 맞게 사이즈를 맞춰 적용했다. 크기가 다른 범프 적용을 통해 열 특성을 강화하는 동시에 수율도 극대화했다.

또 삼성전자는 NCF로 코팅하고 칩을 접합해 범프 사이즈를 다양하게 하면서 동시에 공극없이 적층하는 업계 최고 수준의 기술력도 선보였다.

삼성전자는 HBM3E 12H가 인공지능(AI) 서비스의 고도화로 데이터 처리량이 급증하는 상황 속에서 AI 플랫폼을 활용하는 다양한 기업들에게 최고의 솔루션이 될 것으로 기대하고 있다.

특히 성능과 용량이 증가한 이번 제품을 사용할 경우 GPU 사용량이 줄어 기업들이 총 소유 비용(TCO)을 절감할 수 있는 등 리소스 관리를 유연하게 할 수 있는 것이 큰 장점이다.

예를 들어 서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때 보다 평균 34% AI 학습 훈련 속도 향상이 가능하다. 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가 가능할 것으로 기대된다.

배용철 삼성전자 메모리사업부 상품기획실장 부사장은 "삼성전자는 AI 서비스를 제공하는 고객사의 고용량 솔루션 니즈에 부합하는 혁신 제품 개발에 힘쓰고 있다"며 "앞으로 HBM 고단 적층을 위한 기술 개발에 주력하는 등 고용량 HBM 시장을 선도하고 개척해 나갈 것"이라고 말했다.

삼성전자는 HBM3E 12H의 샘플을 고객사에게 제공하기 시작했으며 상반기 양산할 계획이다.

HBM3E. ⓒ SK하이닉스

현재 HBM 시장에서 한발 앞선 SK하이닉스는 지난해 8월 HBM3E 개발을 완료했으며, 성능 검증을 위해 엔비디아에 샘플을 공급했다. 

SK하이닉스는 올해 상반기 내에 HBM3E 양산을 시작할 예정이다. SK하이닉스가 생산하는 HBM3E는 엔비디아가 올해 출시하는 AI용 그래픽처리장치(GPU) 가속기 H200과 B100에 탑재된다.

곽노정 SK하이닉스 대표이사 사장은 지난 26일 대한상공회의소 열린 '민·관 반도체 전략 간담회'에서 기자들과 만나 "HBM3E는 저희가 예상한, 계획한 일정대로 (양산 준비를) 하고 있다"고 밝혔다.