[뉴스토마토 이승재·안정훈 기자] “고대역폭메모리(HBM) 프로젝트를 완성한 건 담당 팀이 돌로 수프를 끓여낸 격이었다.”
HBM 연구개발 사업을 총괄했던 라자 코두리(Raja Koduri) 전 AMD 부사장은 HBM 탄생 비화를 이같이 비유했습니다. 그의 표현처럼, 오늘날 ‘인공지능(AI) 시대 메모리 황태자’로 불리는 HBM이 세상에 등장하는 과정엔 우연과 행운이 적잖이 작용했습니다.
2007년, 그래픽처리장치(GPU) 시장의 만년 2등 AMD는 ‘HBM이라는 새 메모리를 부착한 GPU’를 개발하는 프로젝트에 착수합니다. 당시는 ‘AI 용 GPU’의 개념이 없었던 까닭에 ‘AI 시장을 내다본 혜안’은 아니었습니다. 딥러닝 연산에 GPU가 적합하다는 것을 구글·스탠포드대·뉴욕대 연구원들이 발견한 것은 2011년이고, GPU를 사용한 연구로 토론토대 제프리 힌튼 교수(2024년 노벨상 수상자) 팀이 AI 대회에서 우승한 게 2012년입니다. 게임용 GPU 시장의 점유율을 올리겠다는 AMD의 소박한 바람에서 HBM 프로젝트가 시작됐습니다.
리사 수 AMD 회장 겸 최고경영자(CEO)가 CES 2023 개막을 앞두고 기조연설을 하고 있는 모습. (사진=연합뉴스)
“HBM 수요는 있긴 한 거야?”
같은 시기, AMD처럼 삼성반도체에 밀려 2등 신세를 면치 못했던 하이닉스반도체(SK하이닉스 전신)는, 현대전자의 경영권 포기 후 5년간의 워크아웃(채권단 관리)을 졸업하고 매물로 시장에 나온 상태였습니다. 2010년, 하이닉스가 미래 먹거리를 위해 AMD의 HBM 협력사로 나섰을 때, 적자를 갓 벗어난 이 회사가 훗날 AI시대의 총아가 될 것을 예상한 이는 없었습니다.
알려져 있듯 HBM의 구조적 특징은 D램에 구멍을 뚫어 층층이 쌓는 방식입니다. 특히 칩에 미세한 구멍을 수천 개 이상 뚫어 전기적으로 연결하는 ‘실리콘관통전극(TSV)’ 기술은 HBM의 핵심으로 불립니다. D램이 단층 주택이라면, HBM은 이 D램을 쌓아 올린 아파트입니다. HBM 뒤에 붙은 8단, 12단 등은 D램을 몇 개 쌓았는지를 뜻합니다. TSV는 쌓은 D램의 데이터를 수직으로 연결하기 위해 D램에 정보입출 구멍을 뚫고, 위아래 D램 간 데이터를 옮기기도 연결하는 기술입니다. 각 D램에 수천 개의 머리카락보다 훨씬 얇은 미세구멍을 내고 상층과 하층 칩을 수직으로 관통하는 전극을 연결하는 기술입니다.
하이닉스는 ‘TSV기술개발팀’을 조직하고 HBM 연구를 시작했습니다. 하지만 1년 만에 실적이 적자로 돌아서면서 불안감이 엄습했습니다. SK하이닉스 관계자는 “HBM을 처음 개발할 때, 사내 분위기는 1024개나 되는 D램 구멍(정보입출구)이 정상 작동할지에 대해 반신반의했다”며 “수요도 확실하지 않은 상황에서 장비 투자 등 초기 개발비용이 매우 비싼 HBM 개발을 계속 이어나가야 하는지에 대한 의견이 분분했다”고 했습니다. AMD도 사정이 비슷했습니다. 2010년대 들어 심각한 경영난을 겪었고, HBM 프로젝트는 총 4명의 AMD CEO 재임 기간에 걸쳐서 중단과 재계를 거듭했습니다.
SK하이닉스가 CES2025에서 선보인 HBM3E 16단 제품. (사진=연합뉴스)
엔비디아·삼성, 1위의 반격
2012년 SK가 하이닉스를 인수하면서 반전의 계기가 마련됩니다. 최태원 회장의 강력한 의지에 힘입어 SK하이닉스는 HBM 개발에 속도를 냈습니다. 같은 해 AMD도 부사장으로 영입된 구원투수 리사 수를 만나 개발에 박차를 가하게 됩니다.
연구를 시작한 지 6년 만인 2013년, 세계 최초로 국제반도체표준협의회(JEDEC)에서 HBM 표준이 발표됩니다. 2년 뒤인 2015년, SK하이닉스는 HBM 양산 체제를 갖췄습니다. 그해 6월, 리사 수 AMD CEO는 게임쇼 E3에서 HBM이 탑재한 ‘라데온 R9 퓨리 X’ GPU를 세상에 처음 공개하기에 이릅니다.
업계의 관심이 쏟아졌습니다. 외신들은 ‘한국 회사가 HBM을 개발했는데, 삼성이 아니다’라고 보도했습니다. “HBM 샘플 좀 보내달라”는 테크 기업들의 요청이 SK하이닉스에 쇄도했습니다. 하지만 첫 HBM은 절반의 성공이었습니다. 퓨리X는 게임 GPU 시장의 판도를 바꾸지 못했고, 비싼 HBM을 탑재한 탓에 가격 경쟁력도 떨어졌습니다.
SK하이닉스가 2세대 HBM 개발에 매진하는 사이 1위들의 반격도 시작됐습니다. 삼성전자는 HBM이 시장에 나온 지 반년 만인 2016년 다음 세대인 HBM2 양산에 성공했고, 엔비디아도 AMD의 HBM 연구팀 인원을 영입하며 같은해 4월 HBM2를 탑재한 GPU 가속기 ‘테슬라 P100’을 출시했습니다. HBM을 탑재한 최초의 GPU 가속기는 AMD와 SK하이닉스였으나, HBM을 활용해 AI용 GPU를 처음 선보인 건 엔비디아와 삼성전자입니다. 당시 HBM2를 자체 개발한 SK하이닉스는 주요 고객사의 퀄 테스트(품질검사)에서 연달아 떨어지고 있었습니다.
젠슨 황 엔비디아 CEO가 지난 5월 대만 타이베이 난강 전시관의 SK하이닉스 부스를 방문했다. (사진=SK하이닉스)
33년 만에 '1위 왕좌' 오르다
SK하이닉스는 3세대 HBM으로 설욕을 노렸습니다. 초창기 HBM 연구처럼 ‘HBM2E 팀’을 꾸려 고객사 맞춤화에 나서는 한편, 열 방출에 효과적인 ‘MR-MUF’ 등의 기술 개발에도 착수합니다. MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 공간 사이에 액체 형태의 보호재를 주입하고, 굳히는 공정입니다. SK하이닉스 관계자는 “현재 HBM의 기틀이 된 MR-MUF 등 주요 기술들이 모두 이 때(3세대 개발 시기) 기반을 다졌다”며 “SK하이닉스의 MR-MUF는 칩을 쌓을 때 가해지는 압력을 줄이고, 칩이 휘는 현상에 대한 제어를 향상시켜 안정적 양산이 가능하도록 한 핵심 기술”이라고 했습니다.
HBM2E는 시장에 성공적으로 자리 잡습니다. SK하이닉스는 멈추지 않고 4세대 개발에 전념합니다. 그 시기 삼성전자는 모바일용 D램 위주로 개발에 집중하며, HBM 개발의 ‘골든타임’을 놓치게 됩니다. 2022년 6월, 다음 세대인 HBM3(4세대)를 엔비디아 GPU ‘H100’에 장착시킨 SK하이닉스는, 마침내 HBM 최강자로 등극했습니다. 이듬해 5세대 ‘HBM3E’ 개발에도 연이어 성공하며 독보적 HBM 1등 자리를 지켜오고 있습니다. 지난 1분기 SK하이닉스는, 글로벌 D램 시장에서 점유율 36%를 차지하며 33년 만에 1위 왕좌에 올라서게 됐습니다.
이승재·안정훈 기자 tmdwo3285@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지