'젠슨 승인'…삼성전자, 엔비디아에 HBM 12단 공급

HBM3E 12H 제품 / 삼성전자

 

삼성전자가 올해 하반기 12단 5세대 HBM(HBM3E)을 엔비디아에 공급한다

25일 업계에 따르면 삼성전자는 이르면 9월부터 엔비디아에 HBM3E 12단을 공급한다. 그동안 엔비디아향 HBM은 SK하이닉스가 사실상 독점해왔으나 이번 삼성전자의 공급망 진입으로 본격적인 경쟁의 장이 열릴 전망이다. 

HBM은 D램 여러 개를 수직으로 연결해 데이터 처리 속도를 크게 높인 제품이다. 데이터 처리량을 대폭 늘릴 수 있어 AI 반도체 구현에 필수로 꼽힌다. 

앞서 삼성전자는 업계 최초로 24Gb D램 칩을 TSV(실리콘 관통 전극) 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12단을 구현했다. 초당 최대 1280GB의 대역폭과 현존 최대 용량인 36GB을 제공해 성능과 용량 모두 전작인 HBM3 8H 대비 50% 이상 개선된 것으로 알려졌다. 

젠슨 황 엔비디아 CEO는 삼성전자의 HBM에 기대감을 내비쳤다. 그는 최근 미국 새너제이에서 열린 연례 개발자 콘퍼런스 'GTC 2024'에서 "삼성전자의 HBM을 테스트하고 있는데 기대가 크다"며 직접 삼성전자 부스를 찾아 12단 HBM3E에 '젠슨 승인'(JENSEN APPROVED) 사인을 남겼다. 

삼성전자 관계자는 "고객사 관련 내용은 확인이 어렵다"며 "HBM3E 12H 샘플은 고객사에 제공하기 시작했고 상반기 양산할 예정이다"라고 밝혔다

'젠슨 승인'…삼성전자, 엔비디아에 HBM 12단 공급 < 반도체·디스플레이 < 기업 < 기사본문 - IT조선 (chosun.com)

'젠슨 승인'…삼성전자, 엔비디아에 HBM 12단 공급

 

삼성전자, 업계 최초 36GB HBM3E 12H D램 개발

삼성전자가 업계 최초로 36GB(기가바이트) HBM3E(5세대 HBM) 12H(High, 12단 적층) D램 개발에 성공하고 고용량 HBM 시장 선점에 나선다.

 

삼성전자는 24Gb(기가비트) D램 칩을 TSV(Through-Silicon Via, 실리콘 관통 전극) 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12H를 구현했다.

* 24Gb(기가비트) D램 용량 = 3GB(기가바이트)

* HBM3E 12H D램 용량 : 36GB (3GB D램 x 12)

* TSV: 수천 개의 미세 구멍을 뚫은 D램 칩을 수직으로 쌓아 적층된 칩 사이를 전극으로 연결하는 기술

 

HBM3E 12H는 초당 최대 1,280GB의 대역폭과 현존 최대 용량인 36GB을 제공해 성능과 용량 모두 전작인 HBM3(4세대 HBM) 8H(8단 적층) 대비 50% 이상 개선된 제품이다.

* HBM3E 12H는 1,024개의 입출력 통로(I/O)에서 초당 최대 10Gb를 속도를 지원함. 초당 1,280GB를

처리할 수 있어 1초에 30GB 용량의 UHD 영화 40여편을 업(다운)로드 할 수 있는 속도

* 성능은 고객사 모의 환경 기반의 내부 평가 결과이며, 실제 환경에 따라 변동 가능

 

삼성전자는 'Advanced TC NCF'(Thermal Compression Non Conductive Film, 열압착 비전도성 접착 필름) 기술로 12H 제품을 8H 제품과 동일한 높이로 구현해 HBM 패키지 규격을 만족시켰다.

'Advanced TC NCF' 기술을 적용하면 HBM 적층수가 증가하고, 칩 두께가 얇아지면서 발생할 수 있는 '휘어짐 현상'을 최소화 할 수 있는 장점이 있어 고단 적층 확장에 유리하다.

 

삼성전자는 NCF 소재 두께도 지속적으로 낮춤으로써, 업계 최소 칩간 간격인 '7마이크로미터(um)'를 구현했다. 이를 통해 HBM3 8H 대비 20% 이상 향상된 수직 집적도를 실현했다.

 

특히, 칩과 칩사이를 접합하는 공정에서 신호 특성이 필요한 곳은 작은 범프를, 열 방출 특성이 필요한 곳에는 큰 범프를 목적에 맞게 사이즈를 맞춰 적용했다. 크기가 다른 범프 적용을 통해 열 특성을 강화하는 동시에 수율도 극대화했다.

* 범프(Bump): 칩 사이를 전기적으로 연결하기 위해 형성한 전도성 돌기를 통칭

 

또한, 삼성전자는 NCF로 코팅하고 칩을 접합해 범프 사이즈를 다양하게 하면서 동시에 공극(Void)없이 적층하는 업계 최고 수준의 기술력도 선보였다.

 

삼성전자가 개발에 성공한 HBM3E 12H는 AI 서비스의 고도화로 데이터 처리량이 급증하는 상황 속에서 AI 플랫폼을 활용하는 다양한 기업들에게 최고의 솔루션이 될 것으로 기대된다.

 

특히, 성능과 용량이 증가한 이번 제품을 사용할 경우 GPU 사용량이 줄어 기업들이 총 소유 비용(TCO, Total Cost of Ownership)을 절감할 수 있는 등 리소스 관리를 유연하게 할 수 있는 것도 큰 장점이다.

 

예를 들어 서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때 보다 평균 34% AI 학습 훈련 속도 향상이 가능하며, 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가 가능할 것으로 기대된다.

* 동일 GPU 인프라 조건에서 내부 데이터와 시뮬레이션을 기반으로 산출한 값

 

삼성전자 메모리사업부 상품기획실장 배용철 부사장은 "삼성전자는 AI 서비스를 제공하는 고객사의 고용량 솔루션 니즈에 부합하는 혁신 제품 개발에 힘쓰고 있다"며 "앞으로 HBM 고단 적층을 위한 기술 개발에 주력하는 등 고용량 HBM 시장을 선도하고 개척해 나갈 것"이라고 밝혔다.

 

한편, 삼성전자는 HBM3E 12H의 샘플을 고객사에게 제공하기 시작했으며 상반기 양산할 예정이다.

삼성전자, 업계 최초 36GB HBM3E 12H D램 개발 | 삼성반도체 (samsung.com)

삼성전자, 업계 최초 36GB HBM3E 12H D램 개발 | 삼성반도체

• HBM3E 12H(12단 적층)개발 … 업계 최대 용량 36GB 구현
  • 기존 HBM3 8H(8단 적층)대비 성능과 용량 모두 50% 이상 향상
• 'Advanced TC NCF' 기술 활용해 8단과 동일한 높이로 12단 적층 구현
  • 업계 최소 7마이크로미터 칩간 간격 … 수직 집적도 개선
  • 다양한 사이즈의 범프 적용을 통한 열특성 강화 효과
• 고객사 샘플 제공 시작, 상반기 양산 예정