삼성전자“12단HBM3E속도·용량세계최고”… AI주도권회복야심

AMD·엔비디아AI반도체에탑재시장점유율높여SK하이닉스추격맞춤형D램보편화·HBM4개발도

삼성전자가 경쟁사보다 인공지능(AI) 반도체용량 확장에유리한 ‘12단적층 HBM3E(5세대 고대역폭 메모리·샤인볼트)’ D램을 토대로 AI 시대 주도권을되찾겠다고 선언했다. 2025년에는 D램칩을최대16단까지쌓은 HBM4(6세대 고대역폭 메모리)를 선제적으로 공개해 엔비디아·AMD 등 고객사 수요에적극대응할 방침이다.

18일 삼성전자 DS(디바이스솔루션·반도체)사업부는뉴스룸에올린 HBM사업담당 임원인터뷰 기사를 통해이러한미래사업계획을공개했다.

삼성전자는 지난 2월 업계 최초로 12단 적층 HBM3E 개발에 성공하고 2분기부터 양산한다고 밝힌 바 있다. 24Gb(기가비트) 용량 D램 칩을 12개 쌓아 만든 삼성전자 12단 HBM3E는 24Gb(기가비트) 용량 D램 칩 8개를쌓은경쟁사 8단 HBM3E보다 AI 반도체용량 확장에 유리하다. 실제로 삼성전자 12단 HBM3E는 최대 36GB(기가바이트·288Gb)의 용량을 제공해 최대 24GB(192Gb) 용량을 갖춘 8단HBM3E보다 D램 용량이 33%가량 더많다. AI 반도체 D램 용량을 확대하면AI 학습 효율이올라가고 하나의 칩에서 운영(추론)할 수 있는 AI 서비스 수가 늘어난다.

윤재윤 삼성전자 D램개발실 상무는 “AI에 최적화된 D램이 HBM”이라며“삼성전자 12단 HBM3E는 속도(최대10Gbps)와 용량(36GB) 측면에서 세계최고사양을갖췄다”고 강조했다.

그러면서 “삼성전자는 첨단 TCNCF(열압착비전도성 접착 필름) 기술을 활용해칩사이적용되는 NCF 소재두께를 낮추고 칩 간격을 줄이면서 고단 적층에서 칩 제어 기술을 고도화했다”며 “그 결과 D램발열을최소화하면서반도체수율(생산 효율)을 극대화할수있었다”고 덧붙였다.

대만 시장조사업체 트렌드포스에따르면 AMD는 올해 4분기, 엔비디아는 내년 1분기에 12단 HBM3E를 탑재한 차세대 AI 반도체(MI350·B200)를양산한다. 삼성전자는 여기에 자사 고부가가치 HBM을 공급함으로써 시장점유율을 확대하며 SK하이닉스를 따라잡을 계획이다. 업계에 따르면 12단HBM3E를 탑재한 엔비디아·AMD AI칩은 288GB의 용량을 갖춰 8단 HBM3E를 탑재한 기존 AI칩(192GB)보다 D램용량이 33% 확대된다. 이는 현재엔비디아·AMD의 AI칩이 하나의코어에 최대8개의HBM D램을패키징결합할수있기때문이다.

김경륜 삼성전자 상품기획실 상무는“12단 HBM3E는 현재시장주요제품인8단 HBM3(4세대고대역폭메모리)와비교해 2.25배 큰용량의제품”이라며“전보다더적은수의AI서버로초거대언어모델(LLM)을 서비스할 수있어총소유비용(TCO·서비스운영비용) 절감에따른고객기대가크다”고설명했다.

삼성전자는 향후 HBM 시장이고객요구에맞춘 ‘맞춤형 메모리’ 형태로 전개될 것으로 예측했다. 삼성전자 등이반도체 표준(JEDEC)에 맞춘 D램을 납품하면 고객사가 이에 맞춰 완성된 반도체 칩을 만드는 과거 구도에서 벗어나 고객사 칩구조에맞춘 맞춤형 D램이보편화될것이란주장이다.

이러한 고객 요구에 대응하기 위해삼성전자는 HBM 공용설계성능을강화하면서생태계파트너를확대하며맞춤화 요구에대응할 수있는 체계를 만들기로 했다. 또, HBM 품질을 완벽히보증할 수있는 설계·테스트 기술을 확보하고,전력소모를줄일수있는HBM구조연구개발에착수한다.

김상무는 “(AI 칩은) 향후전력소모를줄이기위해처리장치와 D램의거리가 더가까워질 것”이라며 “HBM4, 3차원 패키징(결합) HBM, HBM-PIM(프로세스인 메모리·처리장치+메모리) 등혁신을 지속하기위해고객사와 지속해서논의하고협력할것”이라고 밝혔다.

2025년 공개를 목표로 HBM4 개발에도 속도를 낸다. 업계에 따르면 삼성전자는 HBM4에 D램 칩을 최대 16단까지적층하며 48GB 용량을 구현하고메모리 컨트롤러(제어장치) 기능을 갖춘 ‘로직(시스템) 다이’를 더할 계획이다. 이를통해HBM의핵심성능인대역폭(시간당 전송할수있는데이터양)을HBM3E보다 약 66% 늘어난 2TB(테라바이트)까지확대할계획이다.