“AI시대 우리가 이끈다” 차세대 '반도체 3대장' HBM·CXL·PIM

 

생성형 인공지능(AI)을 비롯한 머신러닝·빅데이터 열풍으로 관련 반도체 시장이 확대되며 HBM(고대역폭 메모리), CXL(컴퓨트 익스프레스 링크), PIM(프로세싱 인 메모리) 등 ‘차세대 반도체 3대장’이 주목받고 있다. 업계는 반도체 불황을 이겨내기 위해 혁신 제품 개발에 몰두하며 업 턴(상승 국면)에 대비하고 있다.

17일 업계에 따르면 삼성전자·SK하이닉스 등은 HBM의 상용화에 이어 차세대 기술인 CXL과 PIM 생태계 확대에 힘을 쏟고 있다. 다만 CXL과 PIM은 아직 시장이 개화하지 않은 상황이다.
업계는 지난 14일(현지시간) 인텔이 5세대 제온 스케일러블 프로세서를 출시한 데 주목하고 있다. 이 제품이 CXL을 통한 메모리 확장을 지원하는 만큼 내년쯤 시장이 열릴 것으로 기대하고 있다.

AI를 비롯한 미래 산업에선 무한대에 가까운 데이터 처리가 필요하다. 기존 방식으론 폭발적으로 늘어나는 데이터를 처리하는 데 한계가 있는만큼, 업계에선 데이터 처리 속도를 높이거나 통신을 활성화하는 방법으로 한계 극복 시도에 나서고 있다.

맏형격인 HBM은 현장에 속속 투입되며 AI 반도체 시장 성장을 이끌고 있다. TSV(실리콘관통전극)로 D램 칩을 수직으로 쌓아 데이터 처리 속도를 높인 고성능 메모리다. 이는 주로 AI 연산을 위한 그래픽처리장치(GPU) 등에 탑재된다. 최근엔 엔비디아·AMD 등 AI 용 GPU 제조사들이 HBM 주문을 늘리며 시장 주도권 다툼이 치열하다.

최근 주목받고 있는 CXL은 고성능 연산이 필요한 애플리케이션에서 서로 다른 기종의 제품을 효율적으로 통신·연결할 수 있는 차세대 인터페이스다. 일반적으로 중앙처리장치(CPU) 1개당 사용할 수 있는 D램 모듈이 제한돼있는데, 데이터 처리량을 늘리기 위해선 CPU를 늘려야 한다. CXL를 활용하면 이들 인터페이스를 하나로 통합해 장치 간 직접 통신을 가능하게 하고 메모리를 공유할 수 있게 된다.

삼성전자 차세대 고대역폭메모리인 HBM3E D램. 사진 삼성전자

SK하이닉스가 개 발한 DDR5 DRAM CXL 메모리. 사진 SK하이닉스

 

삼성전자·SK하이닉스는 2019년 CXL 컨소시엄 발족 초기에 참여해 데이터센터·서버·칩셋 업체들과 협력하고 있다. 삼성전자는 지난 5월 업계 최초로 CXL 2.0을 지원하는 128기가바이트(GB) CXL 2.0 D램을 개발했으며, 조만간 양산에도 돌입할 계획이다. SK하이닉스는 지난 10월 CXL 기반 연산 기능을 통합한 메모리 솔루션 CMS(Computational Memory Solution) 2.0을 공개했고, 내년 하반기엔 DDR5 기반 96GB·128GB CXL 2.0 메모리 솔루션 제품도 상용화할 계획이다.

PIM은 데이터 저장 역할만 하는 기존 D램과 달리 비메모리 반도체인 CPU나 그래픽처리장치(GPU)처럼 연산도 할 수 있게 한 차세대 기술이다. 하나의 칩에서 연산·메모리 기능을 수행하므로 데이터 병목 현상과 과다한 전력 소모 문제를 해결할 수 있는 게 특징이다. 다만 PIM 채택 시 이를 지원하는 별도 프로그램의 개발·적용이 필요하므로, 업계에선 상용화까지 시일이 걸릴 것으로 보고 있다. 과학기술정보통신부는 2030년까지 8262억원을 투자해 PIM 등의 초격차 기술 확보에 나선 상황이다.

시장조사업체 가트너에 따르면 AI 반도체 매출은 올해 534억 달러(약 70조원)에서 2027년 1194억 달러(약 156조원) 규모로 성장할 전망이다. 업계 관계자는 “HBM은 시장이 열리고 있고, CXL·PIM은 곧바로 상용화가 되는 것은 아니라 시장 상황을 좀 더 지켜봐야 할 것”이라며 “관련 차세대 제품 개발에 박차를 가하고 있다”고 말했다.

김정호 한국과학기술원(KAIST) 전기전자공학부 교수는 “AI가 활성화하며 초거대 모델을 계산하면서 동시에 수많은 사람에게 서비스를 제공하기 위한 기술개발이 이어지고 있다”며 “HBM은 GPU 성능을 극대화하기 위한 것이고, CXL은 학습용 데이터를 빠른 속도로 가져오는 역할을 한다. PIM은 D램 메모리에 연산 기능을 넣은 것이다. 향후엔 HBM·CXL을 접목한 반도체 등으로 진화할 것으로 본다”고 말했다.

류영호 NH투자증권 연구원은 “특수 메모리 개별 시장 규모는 아직 작지만, 메모리 자체 성능 개선이 한계에 부딪힌 상황 속에서 AI의 발전과 맞물려 다양한 메모리에 대한 관심이 높다”며 “최근엔 HBM의 높은 가격과 제한적인 확장성으로 인해 CXL에 대한 관심이 높아지고 있다”고 했다.

“AI시대 우리가 이끈다” 차세대 '반도체 3대장' HBM·CXL·PIM | 중앙일보 (joongang.co.kr)

“AI시대 우리가 이끈다” 차세대 '반도체 3대장' HBM·CXL·PIM | 중앙일보

 

반도체 차세대 격전지 ‘CXL 주도권’ 쟁탈전

삼성전자 평택캠퍼스

 

HBM(고대역폭 메모리)에서 SK하이닉스에 주도권을 내준 삼성전자가 그 다음 격전지를 정조준하고 있다. HBM을 잇는 차세대 메모리 기술 ‘CXL(컴퓨트익스프레스링크)’이 그 주인공이다.

최근 삼성은 CXL 관련 제품 상표를 잇따라 출원했다. 이 소식이 알려지자 CXL 관련주가 이틀 내내 30% 급등하는 일도 벌어졌다. 전문가들은 HBM에 이어 CXL 시장이 크게 부상할 것으로 내다보고 있다.

15일 업계에 따르면 삼성전자는 지난 4일 ▷삼성(Samsung) CMM-D ▷삼성 CMM-DC ▷삼성 CMM-H ▷삼성 CMM-HC 등 총 4개의 상표를 한 번에 출원했다. 해당 제품은 ‘반도체 메모리장치, 칩(집적회로), 데이터 저장장치’ 등이다. 삼성전자 내부에서는 CXL을 CMM(CXL Memory Module)로 통칭해 부르는 것으로 알려졌다.

상표만 등록했을 뿐인데 그 여파는 컸다. 관련주가 연일 상한가를 찍으며 급등한 것이다. 오킨스전자, 네오셈 등 CXL 관련 기업들 주가는 2거래일 연속 상한가를 찍었다. 오킨스전자는 지난해 CXL 생산의 기반이 되는 DDR5 메모리 테스트용 인터페이스 개발을 완료했으며 양산을 위한 인프라를 구축한 기업이다. 반도체 후공정 검사장비 업체 네오셈은 메모리반도체의 제조 공정 중 제품의 성능과 신뢰성을 검사하는 장비사업을 주로 하고 있다.

CXL은 쉽게 말해 데이터들을 운반하는 ‘도로’를 확장하는 차세대 인터페이스다. 최근 화제가 된 HBM처럼 고성능 메모리라는 점은 같지만, 역할이 다르다. HBM은 주로 그래픽처리장치(GPU) 안에서 그 성능을 높일 수 있도록 메모리 반도체 사이의 도로를 늘리는 데 쓰인다. 하지만 데이터 처리용량과 대역폭을 무한정으로 늘리지는 못한다는 한계가 있고 가격도 비싸다. 이에 반해 CXL은 ‘확장성’이라는 무기를 갖고 있다. 기존 시스템의 메인 D램을 그대로 사용하면서 확장성을 높여 메모리의 용량을 늘린다. 고용량 CXL D램을 사용하면 서버 한 대당 메모리 용량을 8~10배 이상 늘릴 수 있다.

이처럼 HBM과 CXL은 함께 성장할 수밖에 없는 제품들이다. HBM 시장 확대에 따른 차세대 격전지로 불리는 이유다. 시장조사업체 욜그룹은 글로벌 CXL 시장 규모가 오는 2028년 150억달러(약 20조원)에 달할 것이라고 전망한 바 있다.

삼성전자는 CXL 분야에 누구보다 더 사활을 걸고 있다. 지난 2021년 5월 처음으로 CXL 기반 D램 기술을 개발해 ‘세계 최초’ 타이틀을 보유하고 있고, HBM 시장에서 SK하이닉스에 리더십을 뺏겼던 데 대한 설욕이 필요하다.

삼성전자의 'CXL 2.0 D램'

 

삼성전자는 올 4분기부터 ‘CXL 2.0 D램’을 양산하고 있는 것으로 전해지고 있다. 인텔이 내년 상반기에 CXL 2.0 탑재가 가능한 서버용 CPU ‘시에라포레스트’를 내놓을 예정이어서, CXL 시장은 급격히 확장될 전망이다. HBM 시장이 챗GPT의 보편화로 확대된 것처럼, 인텔의 서버용 CPU 출시도 CXL 시장 확대의 방아쇠를 당길 것으로 보인다.

이정배 삼성전자 메모리사업부장 사장은 지난 10월 삼성전자 뉴스룸에 올린 기고문에서 “CXL 메모리 모듈 등의 새로운 인터페이스를 적극적으로 활용해 메모리 대역폭과 용량을 원하는 만큼 확장하는 미래를 꿈꾸고 있다”고 밝히며 차세대 반도체에서 주도권을 확보하겠다고 강조했다.

SK하이닉스의 추격도 무시할 순 없다. SK하이닉스는 삼성전자보다 4개월 늦은 지난 9월 ‘CXL 2.0’을 공개했다. 불과 몇개월 차이밖에 나지 않는 상황이다. SK하이닉스도 제2의 HBM이라 불리는 CXL 기술 혁신에 주력하고 있다.

곽노정 SK하이닉스 사장은 앞서 “HBM처럼 SK하이닉스가 시장을 선도하고 있는 AI 분야의 시그니처 메모리 경쟁력을 더욱 강화해나갈 것”이라며 “제2, 제3의 HBM이 될 수 있는 PIM(프로세싱 인 메모리), CXL 기반 이머징 메모리 개발에도 많은 노력을 기울이고 있다”고 밝혔다.

HBM 다음은 CXL···'20조시장' 노리는 삼성·하이닉스

삼성전자 CXL 2.0 D램. 사진 제공=삼성전자

 

인공지능(AI) 반도체 시장이 커지는 가운데 고대역폭메모리(HBM)에 이어 ‘컴퓨트익스프레스링크(CXL)’가 새로운 D램 규격으로 주목받고 있다. CXL은 이론상 D램 용량을 무한대로 확장해 폭증하는 데이터 처리량 요구에 대응할 수 있다는 것이 최대 장점이다. 삼성전자와 SK하이닉스는 CXL을 차세대 메모리 성장 종목으로 낙점하고 대대적인 투자에 착수했다.

17일 업계에 따르면 인텔은 14일(현지 시간) AI 성능이 향상된 서버용 중앙처리장치(CPU) 제온 스케일러블 프로세서 5세대 제품을 출시했다. 이 프로세서는 데이터센터 속 서버 안에서 각종 정보를 연산하는 ‘두뇌’ 역할을 하는 핵심 칩이다.

주목할 만한 점은 인텔은 이번 신규 칩부터 CXL 규격 적용이 가능하다는 것이다. 인텔 측은 “일부 5세대 칩은 CXL 타입3 워크플로를 선도적인 클라우드 서비스 공급 업체에 지원한다”고 밝혔다. 인텔은 세계 서버용 CPU 시장에서 점유율 80%를 차지한 회사다. 이런 회사가 본격적인 CXL 규격 적용을 시사하면 관련 생태계는 빠르게 확장될 가능성이 크다.

CXL은 반도체 업계에서 AI 시대에 대응할 수 있는 새로운 규격으로 떠오르고 있다. AI는 세상 곳곳에 흩어진 수많은 데이터를 학습하고 추론하는 과정을 반복한다. AI용 데이터는 챗GPT 등 획기적 서비스가 등장하면서 폭증하는 추세다. 다만 AI 연산은 기존 컴퓨팅 규격(PCIe)으로는 한계가 있다. CPU·그래픽처리장치(GPU) 등의 연산을 돕는 D램·낸드플래시 메모리를 원하는 용량만큼 확장하는 것이 상당히 힘들기 때문이다. 또 연산장치들의 통신 방법이 저마다 달라서 속도가 생명인 AI 시대에 정보 저장 속도가 느려질 가능성도 커졌다.

CXL의 핵심 가치는 확장성이다. 이론상 서버에 필요한 D램을 거의 무한대로 확장할 수 있다. 각종 연산장치의 통신규약(프로토콜)을 하나로 묶어 데이터 병목현상이 줄고 전력효율에도 큰 도움을 준다.

시장 정보 회사 욜그룹은 세계 CXL 시장이 2028년 150억 달러(약 20조 원) 규모가 될 것으로 보고 있다. 150억 달러 가운데 80% 규모인 120억 달러가 CXL D램 시장이다. 더구나 2027년 이후에는 업계의 모든 CPU가 CXL과 연동되게끔 설계되면서 CXL 전용 D램이 더욱 각광을 받을 것이라고 전망했다.

삼성전자가 시맨틱 SSD에서 명칭을 바꾼 CMM-H(하이브리드). 사진 제공=삼성전자

 

삼성전자와 SK하이닉스도 장밋빛 전망에 기술 확보에 적극적으로 뛰어들기 시작했다. 삼성전자는 올해 5월 128GB(기가바이트) CXL 2.0 D램을 새롭게 선보이고 연내 양산을 공식적으로 발표했다. 최대 1TB(테라바이트) 용량으로 구현할 수 있고 올 4분기 안에 256GB D램 고객사용 시제품을 만들 것이라는 계획도 있다. △CMM-D △CMM-DC △CMM-H △CMM-HC 등 CXL 모듈에 관한 4개 종류 상표도 출원했다.

CXL 시장에서 눈에 띄는 삼성전자의 행보는 ‘오픈 이노베이션’이다. 삼성전자는 화성 사업장 내 메모리 오픈 랩인 삼성메모리리서치센터(SMRC) 안에 오픈컴퓨트프로젝트(OCP) 경험 센터를 올 7월 열었다. OCP는 CXL 컨소시엄처럼 굴지의 정보기술(IT) 회사들이 모여 컴퓨팅 구조의 미래를 논의하는 단체다. OCP 경험 센터에는 삼성의 고객사인 칩 제조사들이 자유롭게 드나들며 CXL의 가능성을 들여다볼 것으로 보인다. 또한 CXL 메모리 생태계의 핵심 칩인 CXL 컨트롤러의 경우 중국 몬타지테크놀로지가 독자 생산 중인데 삼성전자가 자사 CXL D램 전용 컨트롤러 개발을 진지하게 검토하며 이원화를 고민하는 것으로 알려졌다.

SK하이닉스가 올 10월 미국에서 열린 OCP 글로벌 서밋에서 발표한 HMSDK 2.0 버전. 지난달 SK테크서밋에서 발표한 CXL 시스템 ‘나이아가라 2.0’. 사진

 

HBM으로 AI 시장에서 재미를 본 SK하이닉스는 지난해 DDR5 D램을 활용한 CXL 메모리를 개발했다. SK하이닉스는 서버 내 필요한 메모리를 한곳에 모아서 관리하는 풀링 시스템 ‘나이아가라’ 시스템을 올 10월 미국 캘리포니아에서 열린 OCP서밋 2023에서 공개하고 지난달 열린 SK테크서밋에서는 2.0 버전도 선보였다. 올 4분기 CXL 메모리 전용 개발 프로그램인 ‘HMSDK 2.0’ 버전을 오픈소스로 배포하겠다는 계획도 발표했다.

업계 관계자는 “CXL은 일부에 한해 개발됐을 뿐 생태계 전체를 아우르는 기술은 부족한 상황”이라며 “삼성전자 등 세계적인 회사들이 시장 확장 가능성을 보고 진지하게 진입을 검토하고 있는 것은 사실”이라고 설명했다.