기기에 AI 장착 '온디바이스 AI', 반도체 수요 끌어올린다

온디바이스 AI 기능을 갖춘 삼성전자 갤럭시 S24 시리즈 제품 [연합뉴스 자료사진]

 

기기 자체에 인공지능(AI)을 장착한 '온디바이스 AI'가 반도체 업계에 활기를 불어넣을 새로운 수요처로 주목받는다.

IT 기기에서 AI 기반 서비스를 지원하려면 고성능·고용량 반도체가 필수다. 이에 업계는 관련 수요에 대응할 차세대 메모리 개발에 속도를 내고 있다.

 

클라우드에서 시작한 AI, 온디바이스로 확대

28일 업계에 따르면 최근 AI 시장은 클라우드 서버를 기반으로 작동하는 클라우드 AI에서 온디바이스 AI로 빠르게 확대되고 있다.

클라우드 AI는 클라우드를 통해 데이터와 연산을 처리한다. 따라서 서비스를 이용하려면 인터넷에 연결해 특정 사이트에 접속하거나 앱을 설치해야 한다.

반면 온디바이스 AI는 클라우드를 거치지 않고 기기 자체에서 AI를 구동한다. 통신 연결이 없어도 PC나 스마트폰 등 기기에서 바로 명령과 실행을 한다.

AI 분야 데이터 처리에는 강력한 성능을 갖춘 반도체가 쓰이는데, 온디바이스 AI는 경량화된 AI 칩이 필수다.

AI 기능 탑재는 스마트폰을 비롯해 PC, 가전, 자동차, 보안, 헬스케어 등 다양한 실생활 분야로 확산하고 있어 맞춤 제작 AI 칩 수요 증가가 예상된다.

최근 주목받는 대표적인 온디바이스 AI 기기로는 삼성전자가 오는 31일 공식 출시하는 AI 스마트폰 갤럭시 S24 시리즈가 꼽힌다.

갤럭시 S24 체험공간 '갤럭시 스튜디오'에 마련된 AI 실시간 통역 체험부스 [연합뉴스 자료사진]

 

특히 갤럭시 S24+와 S24에는 삼성전자가 자체 개발한 모바일 애플리케이션 프로세서(AP) '엑시노스 2400'이 탑재됐다. AP는 스마트폰의 두뇌 역할을 하는 반도체다.

'엑시노스 2400'은 문장 교정, 문체 변환 등 다양한 온디바이스 생성형 AI 기능을 지원한다. 인터넷 연결 없이도 생성형 AI 기능을 수행해 사용자 개인 정보를 보호하고 편리성을 높이는 장점도 있다.

배용철 삼성전자 메모리사업부 상품기획실장은 최근 삼성전자 뉴스룸 기고문에서 "AI는 클라우드에서 처음 시작됐지만 다른 응용과 플랫폼으로 확산하고 있다"며 "보안과 응답성 등을 고려해 스마트폰, 컴퓨터, 자동차 등에서 온디바이스 AI 구현이 필요한 상황"이라고 설명했다.

그러면서 "충분한 컴퓨팅과 메모리를 탑재하기 위한 기술적 검토가 적극 진행되고 있다"고 전했다.

 

삼성·하이닉스, 온디바이스 AI 수요 대응에 사활

업계에서는 올해 온디바이스 AI를 적용한 제품 출시에 속도가 붙고 관련 시장이 본격적으로 개화할 것으로 전망한다.

이에 삼성전자와 SK하이닉스도 새로운 메모리 수요를 창출할 돌파구로 온디바이스 AI 시장 선점에 박차를 가하고 있다.

삼성전자는 고성능·저전력 온디바이스 AI용 D램 솔루션으로 모바일 D램 LPDDR5X, LPDDR5X 기반 메모리 모듈인 LPPDR5X CAMM2, LLW(저지연 와이드) D램 등을 포트폴리오로 갖췄다.

또 낸드 솔루션으로는 PCIe 5.0 기반 솔리드스테이트드라이브(SSD) 제품인 'PM9E1'이 올해 6월 개발될 예정이다. 이 제품은 생성형 AI를 지원하는 거대언어모델(LLM)을 1초 이내로 D램에 전송할 수 있다.

SK하이닉스  LPDDR5X 24GB [

 

SK하이닉스도 AI 서버용 고대역폭 메모리(HBM) 분야에서 경쟁력을 확보한 데 이어 온디바이스 AI용 고성능 모바일 모듈인 LPCAMM2 준비에 힘쓰고 있다.

1개의 LPCAMM2는 기존 DDR5 SODIMM D램 2개를 대체하는 성능을 갖춘 동시에 공간 절약과 저전력 특성을 구현한다.

특히 SK하이닉스는 올해 HBM 생산에 필수인 실리콘관통전극(TSV) 생산능력을 2배로 확대하는 등 설비투자를 AI 수요 증가 대응에 계획이다.

온디바이스 AI를 갖춘 PC와 스마트폰 등은 고성능 하드웨어가 필요해 기기당 메모리 탑재량이 늘어나는 만큼 메모리 반도체 수요를 촉발할 기폭제로 꼽힌다.

김규현 SK하이닉스 D램마케팅담당은 지난 25일 실적 콘퍼런스콜에서 "AI PC는 기존 PC 대비 약 2배 이상의 D램 용량이 탑재돼야 하고, AI 스마트폰은 기존 스마트폰 대비 최소 4기가바이트(GB) 이상의 D램 용량이 더 필요할 것"이라고 설명했다.

아울러 "온디바이스 AI 기능을 적극적으로 활용하는 '킬러 애플리케이션'이 출현하면 성숙기에 접어든 PC 또는 스마트폰 시장에서 (메모리) 중장기 수요의 추가적인 성장을 이끌 수 있을 것"이라고 기대했다.

rice@yna.co.kr

'온디바이스 AI' 반도체업체 새수요처 주목

인텔은 지난해 12월 온디바이스 AI 제품을 출시했다. 왼쪽부터 인텔 제품이 들어간 갤럭시 북4 프로 360, 인텔 코어 울트라, 웨이퍼, 데이터센터용 5세대 제온 프로세서, LG그램16

 

기기 자체에 인공지능(AI)을 장착한 ‘온디바이스 AI’가 반도체 업계에 새 활력을 불어넣을 새로운 수요처로 주목받는다. IT 기기 자체에서 AI 기반 서비스를 하려면 고성능, 고용량 반도체가 필수다.

4일 업계에 따르면 최근 AI 시장은 클라우드 서버를 기반으로 한 클라우드 AI에서 온디바이스 AI로 전환 중이다. 클라우드 AI는 기기에서 서버를 거쳐 클라우드 상에서 데이터와 연산을 처리한다. 따라서 이 서비스를 이용하려면 인터넷에 연결하기 위해 특정 사이트에 접속하거나 앱을 설치해야 한다.

반면 온디바이스 AI는 클라우드를 거치지 않고 기기 자체에서 구동한다. 통신 연결이 없어도 된다. AI 분야 데이터 처리에는 강력한 성능을 갖춘 반도체가 사용된다. 온디바이스 AI는 경량화된 AI 칩이 필수다.

AI 기능 탑재는 스마트폰을 비롯해 노트북을 포함한 PC, 가전, 자동차, 보안, 헬스케어 등 다양한 실생활 분야로 확산 중이다. 최근 주목받는 대표적인 온디바이스 AI 기기로는 삼성전자가 최근 출시한 갤럭시 S24 시리즈다. 갤럭시 S24 시리즈에는 퀄컴의 애플리케이션 프로세서인 스냅드래곤 8 3세대와 삼성전자의 엑시노스 2400이 들어갔다.

PC 프로세서 제조사인 인텔도 ‘노트북 내장 AI 시대’를 열었다. 인텔은 지난해 12월 ‘인텔 코어 울트라’ 프로세서를 출시했다. 이후 삼성전자, LG전자, 에이서, 에이수스, HP 등 노트북 제조사들이 이 프로세서를 사용한 노트북을 잇따라 출시 중이다.

인텔 코어 울트라는 중앙 처리 장치(CPU), 그래픽 처리 장치(GPU) 및 신경 처리 장치(NPU) 전반에 전용 AI 가속 기능을 분산시켰고 전력 효율도 대폭 높였다고 한다. 인텔, AMD, 엔비디아와 같은 프로세서 제조사에 국내 반도체 부품 제조사들이 어떤 AI 반도체 제품을 납품하느냐도 주목된다.

삼성전자는 고성능·저전력 온디바이스 AI용 D램 설루션으로 모바일 D램 LPDDR5X, LPDDR5X 기반 메모리 모듈인 LPPDR5X CAMM2, LLW(저지연 와이드) D램 등을 포트폴리오로 갖췄다. 또 낸드 설루션으로는 PCIe 5.0 기반 솔리드스테이트드라이브(SSD) 제품인 ‘PM9E1’이 오는 6월 개발될 예정이다. 생성형 AI를 지원하는 거대언어모델(LLM)을 1초 이내로 D램에 전송할 수 있다.

SK하이닉스는 AI용 서버 수요와 온디바이스 AI 응용 확산을 대비해 여러 개의 D램이 기판에 결합된 고용량 서버용 모듈 MCRDIMM과 LPDDR5X 기반의 고성능 모바일 모듈 LPCAMM2 준비에 한창이다. 1개의 LPCAMM2는 기존 DDR5 SODIMM D램 2개를 대체하는 성능을 갖춘 동시에 공간 절약과 저전력 특성을 구현한다는 게 회사 측 설명이다. SK하이닉스는 HBM 생산에 필수인 실리콘관통전극(TSV) 생산능력을 2배로 확대하는 등 설비투자를 AI 수요 증가 대응에 계획이다.

SK하이닉스는 지난달 25일 실적 발표회에서 “지난해 4분기 AI 서버와 모바일용 제품 수요가 늘고 평균판매단가(ASP)가 상승하는 등 메모리 시장 환경이 개선됐다”며 “그동안 지속해 온 수익성 중심 경영활동이 효과를 내면서 1년 만에 분기 영업흑자를 기록하게 됐다”고 밝혔다

 

인공지능, AI의 역사

인공지능, AI의 역사 (voakorea.com)

인공지능, AI의 역사

계산기부터 신경망까지, 인공지능의 발전은 새로운 뇌 과학의 발전과 궤를 같이 해왔습니다.