[AI 반도체 대전] ② AI 특수, HBM 없어서 못 판다…삼성·SK, 차세대 메모리 독주체제 굳혔다

AI 반도체 열풍에 HBM 수요 폭발적 증가
메모리 시장 선도 K-반도체 간 HBM 경쟁 촉발
1위 자리 수성 나선 SK, HBM 기술 고도화 박차
삼성, 기술 초격차 통해 고성능·고용량 제품 개발

‘챗GPT’가 쏘아올린 AI(인공지능) 열풍으로 글로벌 반도체 시장이 요동치고 있다. 생성형 AI 구동에 필수인 AI 반도체 수요가 폭발적으로 늘면서 AI 칩 시장에서 선도적 지위를 확보하려는 빅테크 간 경쟁이 날로 격화되고 있다. 세계 AI 반도체 시장을 선도하고 있는 엔비디아에 맞서 인텔, 구글, AMD, 삼성, SK 등 주요 빅테크들이 차세대 AI 반도체를 잇따라 공개하며 추격의 고삐를 더욱 죄는 모습이다. CEO스코어데일리는 최근 날로 격화하는 AI 반도체 시장의 현 주소와 함께, 삼성·SK 등 K-반도체 진영의 경쟁력도 조명해 보고자 한다. <편집자주>

엔비디아가 선도하고 있는 전 세계 AI 반도체 시장에 글로벌 빅테크들이 앞다퉈 뛰어들고 있는 가운데, AI 반도체 구동에 필수인 HBM(고대역폭메모리) 칩 수요가 폭발적으로 증가하고 있다. 당장, 전 세계적으로 HBM 시장을 양분하고 있는 삼성전자와 SK하이닉스에 큰 호재로 작용하면서 올 상반기 실적반등을 견인할 전망이다.

글로벌 HBM 시장을 선점한 삼성과 SK는 선두 자리를 놓고 치열한 기술 경쟁을 벌이기 시작했다. 먼저 우위를 확보한 SK하이닉스는 차세대 HBM인 ‘HBM3E’를 세계 최초로 양산·공급하며 ‘1위 굳히기’에 들어갔고, 삼성전자는 업계 최초로 D램 칩을 12단으로 쌓은 5세대 HBM 개발에 성공하며, 추격의 신호탄을 쐈다.

◇글로벌 HBM 시장 1위 SK, HBM3E 세계 최초 양산…2026년 HBM4 생산 목표

22일 시장조사업체 트렌드포스에 따르면 지난해 SK하이닉스의 전 세계 HBM 시장 점유율은 53%로, 1위를 차지했다. 삼성전자는 38%로 SK에 이어 2위를 기록했다. 양사간 점유율 격차는 15%p로 나타났다.

2022년 글로벌 HBM 시장 점유율은 SK 50%, 삼성 40% 등으로, 양사 간 점유율 차이는 10%p에 그쳤다. 그러나 불과 1년 만에 간극이 더욱 확대된 것이다.

SK하이닉스가 세계 시장에서 독보적인 지위를 확보하게 된 것은 HBM 기술 경쟁에서 경쟁사를 크게 앞서고 있기 때문이다. SK하이닉스는 지난달 19일 초고성능 AI 메모리 신제품인 HBM3E를 세계 최초로 양산하고, 제품 공급을 시작했다. 이는 SK가 지난해 8월 HBM3E 개발을 알린 지 7개월 만이다.

HBM3E는 5세대 HBM이다. 현존 최고 사양인 ‘HBM3’의 다음 세대 제품으로, 최근 글로벌 빅테크로부터 러브콜이 쇄도하고 있다.

SK하이닉스 HBM3E. <사진=SK하이닉스>

특히 SK의 HBM3E는 글로벌 AAI 톱 밴더인 엔비디아에 최초로 공급하며 기선을 잡았다. 앞서 올해 2월 미국 마이크론테크놀로지(마이크론)는 엔디비아에 공급하기 위한 HBM3E 양산을 시작했다고 발표한 바 있다. 그러나 막상 뚜껑을 열어보니 엔비디아에 HBM3E를 최초 납품하는 업체는 SK하이닉스였다.

SK하이닉스 관계자는 “HBM3에 이어 HBM3E 역시 가장 먼저 고객사에 공급하게 됐다”며 “HBM3E 양산도 성공적으로 진행해 AI 메모리 시장에서의 경쟁 우위를 이어 가겠다”고 강조했다.

SK하이닉스가 엔비디아에 세계 최초로 양산·공급하는 HBM3E는 초당 최대 1.18TB의 데이터를 처리하는 차세대 메모리다. 이는 풀HD급 영화(5GB) 230편에 달하는 데이터를 1초 만에 처리하는 수준이다.

특히 효과적으로 발열을 제어하기 위해 어드밴스드 MR(매스 리플로우)-MUF(몰디드 언더필) 공정이 적용됐다. 이에 열 방출 성능은 이전 세대 대비 10% 향상됐다.

SK하이닉스의 MR-MUF는 적층한 칩 사이에 보호재를 넣은 후 전체를 한 번에 굳히는 공정이다. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 기존 NCF(비전도성 접착 필름) 방식과 비교해 공정이 효율적이고 열 방출에도 효과적인 것으로 평가된다.

류성수 SK하이닉스 HBM사업담당 부사장은 “세계 최초로 HBM3E 양산을 통해 AI 메모리 업계를 선도하는 제품 라인업을 한층 강화했다”며 “그동안 축적해 온 성공적인 HBM 비즈니스 경험을 토대로 고객 관계를 탄탄히 하면서 ‘토털 AI 메모리 프로바이더’로서의 위상을 굳혀 나가겠다”고 말했다.

SK하이닉스는 올해 HBM3E 생산량 대부분을 엔비디아에 공급할 것으로 전망된다. SK하이닉스 관계자는 지난해 3분기 실적 콘퍼런스콜에서 “HBM3 뿐만 아니라 HBM3E까지 2024년도 생산 능력이 솔드아웃(매진)된 상황이다”며 “2025년까지도 고객사, 파트너들과 기술 협업 및 생산 능력 확대에 대해 논의하는 중이다”고 밝힌 바 있다.

최태원 SK그룹 회장(맨 왼쪽)이 SK하이닉스 반도체 제품을 살펴보고 있다. <사진=SK>

HBM 기술 고도화에도 힘쓰는 모습이다. 올 2월 SK하이닉스는 미국 샌프란시스코에서 열린 국제고체회로학회(ISSCC) 콘퍼런스에서 HBM3E 16단 기술을 세계 최초로 공개했다. 이는 D램 칩을 16단으로 적층하는 초고난도 기술이다. 국제반도체표준협의기구(JEDEC) 표준 규격에 맞춰 칩 두께를 매우 얇게 만들면서도 내구성 또한 강화해야 해 상당히 까다로운 기술로 손꼽힌다.

차세대 제품 개발에도 적극 매진하고 있다. SK는 6세대 HBM인 ‘HBM4’가 2026년께부터 시장 지배적 제품이 될 것으로 판단하고, HBM4 개발·양산에 박차를 가하고 있다.

이를 위해, 지난 19일 TSMC와 함께 기술 협력을 위한 양해각서(MOU)도 체결했다. TSMC의 선단 공정을 기반으로 HBM 패키지 내 최하단에 탑재되는 베이스 다이(base die) 성능을 개선하기 위해서다.

HBM은 베이스 다이 위에 D램 단품 칩인 코어 다이(core die)를 쌓아 올린 뒤, 이를 TSV(실리콘관통전극) 기술로 수직 연결해 제조한다. 베이스 다이는 GPU(그래픽처리장치)와 연결돼 HBM을 통제하는 역할을 수행한다.

그간 SK하이닉스는 5세대 HBM인 HBM3E까지 자체 D램 공정으로 베이스 다이를 만들어 왔다. 그러나 HBM4부터는 TSMC가 보유한 로직 초미세 선단 공정을 활용한다는 방침이다. HBM 제조 과정에 초미세 공정을 적용하면 보다 다양한 기능을 추가할 수 있기 때문이다.

이같은 협력으로 SK는 성능과 전력 효율 등 고객사의 폭넓은 요구에 부합하는 맞춤형 HBM을 양산할 수 있을 것으로 기대하고 있다.

SK하이닉스 관계자는 “AI 메모리 글로벌 리더로서 파운드리 1위 TSMC와 힘을 합쳐 또한번의 HBM 기술 혁신을 이끌어 내겠다”며 “양사 간 기술 협업을 바탕으로 메모리 성능의 한계를 돌파하겠다”고 말했다.

SK는 최고의 HBM 기술 경쟁력을 기반으로 AI 시대를 선도하는 ‘퍼스트 무버(First Mover)’로서의 입지를 더욱 공고히 한다는 구상이다.

곽노정 SK하이닉스 사장은 지난달 27일 정기 주주 총회(주총)에서 “앞으로도 AI 선도 기업과의 긴밀한 파트너십을 기반으로 ‘HBM 1등’ 경쟁력을 계속 유지하겠다”고 강조했다.

◇삼성, 12단 적층 HBM3E 앞세워 SK 추격 본격화…2025년 HBM4 샘플링

SK하이닉스가 HBM 경쟁력을 강화하며 글로벌 시장에서 독보적인 지위를 확보한 반면, 삼성전자는 AI 시대 차세대 HBM 칩 시장에서 2위로 밀려나며 큰 충격을 받았다.

삼성 스스로도 이를 시인한 바 있다. 앞서 지난달 20일 삼성전자 정기 주총에서는 ‘HBM 시장에서 삼성이 한발 밀린 것 아니냐’는 주주들의 지적이 제기됐다. 이에 대해, 경계현 삼성전자 대표이사 사장은 “HBM 시장에서 경쟁사에 역전을 허용했다”고 인정하고 “다시는 이런 일이 발생하지 않도록 더욱 잘 준비하겠다”고 밝혔다.

삼성은 최근 HBM 경쟁력 제고에 사활을 건 상태다. 삼성전자는 차세대 HBM 실물 제품을 공개하며, SK를 뛰어 넘어 선두 자리를 탈환하겠다는 포부를 내비쳤다.

삼성은 지난달 18일 미국 캘리포니아주 새너제이 SAP 센터에서 열린 엔비디아 연례개발자 콘퍼런스 ‘GTC 2024’에서 업계 최초로 D램 칩을 12단까지 쌓은 HBM3E 12H 실물을 선뵀다. 그동안 HBM 경쟁에서 SK에 밀렸다는 평가를 받아 온 삼성전자는 올 2월 27일 24Gb D램 칩을 TSV 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12H를 구현했다고 밝힌 바 있다.

삼성의 HBM3E 12H는 성능과 용량 모두 전작인 HBM3 8H 대비 50% 이상 개선됐다. 특히 초당 최대 1280GB를 처리할 수 있는 것으로 파악됐다. 이는 1초에 30GB 용량의 UHD 영화 40여 편을 업로드 또는 다운로드할 수 있는 속도다.

칩 두께를 최소화하는 데에도 힘썼다. 삼성은 TC NCF(첨단 열압착 비전도성 접착 필름) 기술로 12단 적층 제품을 8단 적층 제품과 동일한 높이로 구현했다. 첨단 TC NCF 기술을 적용하면 HBM 적층 수를 늘리면서도 얇은 칩 두께로 인해 발생할 수 있는 휘어짐 현상을 크게 줄여준다.

NCF 소재 두께도 낮춰 업계 최소 칩 간 간격인 7마이크로미터(1㎛는 100만분의 1m)를 구현했다. 이를 통해 전작인 HBM3 8H 대비 20% 이상 향상된 수직 집적도를 실현했다.

이재용 삼성전자 회장(오른쪽에서 두번째)이 삼성전자 천안캠퍼스에서 반도체 제품을 살펴보고 있다. <사진=삼성전자>

삼성의 분전에 호평이 잇따르고 있다. 미국 월스트리트저널(WSJ)은 “최근 고성능 AI 메모리 분야에서 삼성전자가 SK하이닉스 등 경쟁사와의 기술 격차를 좁혀 나가고 있다”고 보도했다.

WSJ은 “삼성은 AI 경쟁의 첫 번째 대전에서 SK에 뒤처졌다”면서도 “그러나 삼성은 재정 및 기술적 역량을 발휘해 SK를 따라잡고자 노력하고 있다”고 말했다. 이어 “삼성이 HBM3E를 양산하기 시작하면 이전 세대 HBM처럼 1년이 아닌 1개 분기 정도로 경쟁사와의 기술 격차를 좁힐 것이다”고 전망했다.

HBM3E에 그치지 않고 6세대 HBM 개발에도 승부수를 던졌다. 삼성전자는 내년도에 HBM4를 개발하고, 2026년 본격 양산하는 것을 골자로 한 HBM 로드맵을 세웠다. 특히 16단까지 적층한 HBM4도 개발·생산해, 8H, 12H, 16H 등 폭넓은 선택지를 고객사에 제공한다는 구상이다.

이를 두고 경 사장은 SNS를 통해 “AI 애플리케이션에서 고용량 HBM은 경쟁력이다”며 “이는 최근 HBM3E 12H를 찾는 고객사가 늘고 있는 이유다”고 말했다.

그러면서 “여전히 메모리와 컴퓨트 사이의 트래픽이 병목되고 있어 많은 고객사가 이 문제를 풀기 위해 각자의 방식으로 커스텀 HBM4를 개발하고 싶어 한다”며 “고객사들은 우리와 함께 이를 해결할 것이다”고 강조했다.

SK하이닉스와 긴밀한 파트너십을 맺고 있는 엔비디아가 삼성전자에 눈길을 주고 있는 점도 고무적이다. 젠슨 황 엔비디아 CEO는 지난달 18일 열린 GTC 2024에서 ‘삼성의 HBM을 사용하고 있냐’는 취재진의 질문에 “아직 사용하고 있지 않다”면서도 “현재 테스트하고(qualifying) 있으며, 기대가 크다”고 답했다.

또 황 CEO는 삼성전자 전시 부스에서 들러 HBM3E 실물 제품에 ‘젠슨이 승인함(Jensen Approved)’이라고 적고, 서명까지 남겼다.