SK하이닉스의 HBM2E / SK하이닉스 뉴스룸


"벼랑 끝이었다. 모든 것을 해봐야 했다."(HBM2 TF를 이끈 심대용 전 SK하이닉스 부사장, 책 슈퍼 모멘텀)
2016년 엔비디아 본사에 갔던 박성욱 당시 SK하이닉스 사장(CEO, 현재 경영자문위원)은 "HBM2가 실망스럽다"는 얘기를 실컷 듣고 왔다. 연이은 품질 테스트 탈락에 자존심이 상한 박 사장은 이석희 당시 D램개발부문장(현재 SK온 CEO)에게 특단의 대책을 주문했다. 에이스 100여 명이 모인 CEO 직속 HBM2 TF 조직이 생겼고 'HBM2 버전 2' 개발이 골드몽사이트 시작됐다. TF는 월등한 성능, 경쟁사와의 차별화에 올인했다.
 아오지 탄광에서 찾은 금맥 'HBM2 버전2'
'아오지 탄광'이란 얘기까지 들었지만 TF는 포기하지 않았다. 찾은 해법 2개는 '금맥'이 됐다. 우선 D램 간 데이터 통로인 TSV를 2배로 늘려 데이터 처리 성능을 끌어올렸다. D램과 D램을 연결할 때 열전 모바일바다이야기 도율이 높은 '더미 범프'를 넣어 방열 성능을 강화했다. 2018년, 엔비디아는 'HBM2 버전2'에 만족감을 표했고 '납품해도 좋다'는 신호를 냈다.
SK하이닉스는 HBM 패키징 라인인 P&T4 투자를 결정하고 HBM2 양산을 준비했다. 운이 안 좋았다. 갑자기 불어닥친 암호화폐 겨울(당시 AI 가속기는 암호화폐 채굴기에 많이 납품) 때 바다이야기룰 문에 결과적으로 주문은 안 나왔다. 하지만 SK하이닉스 사람들은 '자신감 회복'의 계기가 됐다고 말한다.
 8년 만에 엔비디아 공급망 진입…여전히 1등은 삼성전자
HBM2E(3세대)에선 물러날 수 없었다. 2018년 3월 개발을 시작한 SK하이닉스는 승부수를 던졌다. D램을 쌓는 패키징 공법인 'MR-MUF'다. HBM2 릴게임꽁머니 까지 메모리기업은 D램을 쌓을 때 칩과 칩 사이에 필름을 넣고 고온고압으로 눌러 붙이는 방식(TC-NCF)을 썼다. 방열 범프를 추가한 SK하이닉스로선 리스크가 생겼다. 더 세게 눌러야 하는데, 이 과정에서 칩이 깨질 가능성이 높아졌다.
MR-MUF는 칩을 일단 쌓고 소재를 한 번에 부어 붙이는 방식이다. 당시 D램의 적층 단수는 8단까지 알라딘게임 올라간 상황. 쌓을 때마다 눌러 붙이지 않아도 되니 시간을 절약할 수 있었다.
뜻밖의 행운은 '방열'에서 왔다. 붙일 때 쓰는 소재인 에폭시가 열을 배출해, HBM에서 열을 빼는 성능이 확 올라간 것. 완성도를 높인 SK하이닉스는 2019년 8월 세계 최초 'HBM2E 개발' 사실을 알리고 고객사에 샘플을 보낸다. (TC-NCF 방식을 쓰는 삼성전자와 MR-MUF의 SK하이닉스 간 신경전은 2024년까지 이어진다.)  



미국 실리콘밸리 엔비디아의 본사 보이저와 엔데버. 2010년대엔 길 맞은편 건물을 본사를 썼다. / 엔비디아 제공


HBM2E의 대역폭(단위 시간 데이터 처리 성능)은 초당 461기가바이트(GB)로 당시 주력 범용 D램인 DDR5의 9배, 그래픽D램(GDDR6X)의 5배 수준이다. 엔비디아의 AI 가속기 'A100'에 장착된 HBM2E는 2022년 11월 챗GPT의 '산파' 역할을 했다. 엔비디아의 A100이 오픈AI를 포함한 거의 모든 빅테크가 AI 학습·추론에 활용한 서버에 장착됐기 때문이다.
SK하이닉스는 엔비디아의 주문을 받아 2020년 7월 HBM2E 양산을 시작했다. 제1공급사는 여전히 삼성전자였지만 SK하이닉스도 '8년 만의 공급망 재진입'이란 성과를 냈다.
 SK하이닉스 '점유율 53%'로 이끈 HBM3 
진검승부는 HBM3부터 시작됐다. 2022년 3월 엔비디아는 "호퍼(H100) AI 가속기에 HBM3를 적용한다"고 발표했다. 엔비디아는 HBM3와 관련해 전작 대비 '성능 2배, 불량률은 10분의 1'의 조건을 내걸었다.
HBM3의 설계 실무를 이끈 박명재 당시 PL(현 부사장)은 "HBM3의 경우 참고할 만한 선행 제품 없이 기술 트렌드를 주도해야 하는 입장이었다"며 "설계 파트에서 자체적으로 스펙을 만들어가면서 동시에 상품기획 파트와 긴밀하게 소통했다"고 설명했다. 
2022년 6월 9일, SK하이닉스는 "엔비디아에 HBM3(8단) D램을 공급하며 양산을 개시한다"고 발표했다. 업계 최초다. HBM3가 장착된 엔비디아의 호퍼(H100) AI 가속기는 A100 대비 AI 학습 속도가 9배, 추론 속도는 30배 빠른 '고성능'을 냈다.



HBM3가 탑재된 H100을 소개하고 있는 젠슨 황 엔비디아 CEO / 엔비디아 제공


사실 HBM3에도 알려지지 않은 문제가 있었다. 발열로 부하가 걸려 속도가 제대로 안 나왔기 때문이다. MR-MUF 공법 영향이 컸다. 액체 소재를 한 번에 채우면 생산성이 좋지만, 그 과정에서 일부 방열 더미가 안 붙는 현상이 발생했다. 2023년 초까지 SK하이닉스와 엔비디아는 매일 미팅했다. 엔비디아는 본사에 '오픈랩'을 마련하고 SK하이닉스와 사실상 '원팀'으로 움직이며 해결했다. (책 슈퍼 모멘텀)
2023년 4월 SK하이닉스는 HBM3 '12단' 첫 개발 보도자료도 낸다. 경쟁사는 "고객사용 양산 추진"을 계속 얘기했지만, 결국 엔비디아 납품을 알리진 못했다.
이즈음 시장조사업체 트렌드포스는 2023년 HBM 점유율 전망치로 SK하이닉스 53%, 삼성전자 38%라고 발표했다. SK하이닉스와 삼성이 5 대 5로 팽팽하게 맞선 HBM 시장의 균형이 SK 쪽으로 기울기 시작한 순간이다. 
"안타보다는 홈런" HBM3E 승부수
SK하이닉스엔 고객사로부터 "AI 반도체 시장이 좀 이상하다. 믿을 수 없지만 커질 것 같다"는 얘기가 계속 들어왔다.
HBM3 양산 시작과 함께 열린 HBM3E(5세대) 개발 회의. 경영진과 엔지니어들은 HBM의 기본 재료 역할을 하는 코어다이(D램) 제품을 놓고 격론을 벌였다.
HBM3의 성공 영향으로 "안정적으로 안타만 치면 된다"는 주장과 "경쟁사가 못 따라오게, 목표를 더 높게 잡고 홈런을 치자"는 의견이 엇갈렸다. 안타론자는 코어다이로 당시 D램 시장의 주류인 10나노 4세대(1a) D램을, 홈런론자는 개발 막바지에 달한 차세대 10나노 5세대(1b) D램을 밀었다.



2024년 세계 최초로 개발한 HBM3E 12단 제품 / SK하이닉스 제공


사실 시장에서 검증되지 않은 차세대 D램을 HBM 같은 프리미엄 파생 제품에 적용하는 건 흔치 않은 일이다. 그만큼 실패 가능성이 크기 때문이다. SK하이닉스는 안정형 전략으로 1위를 유지하며 경쟁사와 시장을 나눠 갖는 것보다, '독주'를 택했다. 1b를 채택하면 1a 대비 HBM 사이즈를 줄이고 방열 효과도 높일 수 있다는 점이 영향을 줬다. 개발 단계부터 수율이 높았던 것도 자신감의 배경이 됐다.
현재 SK하이닉스 최고기술책임자(CTO)를 맡은 차선용 사장은 책 슈퍼 모멘텀에서 "1b 선택이 설계와 패키징 측면을 종합 고려했을 때 현실적이고 최선이었다"며 "수율이 높았고 도전할 만한 수준"이라고 설명했다. 마침 SK하이닉스의 HKMG(누설 전류를 줄여 전력 효율을 높일 수 있는 기술)와 IMD(배선 간 간섭을 최소화해 빠른 전송을 가능하게 하는 기술)도 HBM3E 성능을 높이는 데 일조했다.
 패권은 SK하이닉스로, 삼성은 고난의 행군 시작
결과는 알려진 대로다. 2024년 들어 SK하이닉스는 업계 최초로 엔비디아 대상 HBM3E 8단 양산·납품을 시작했다. 같은 해 9월엔 세계 최초로 12단 양산에 들어갔다. 사실상 엔비디아 물량을 독점하며 명실상부한 HBM 시장 1위 자리에 오른 것이다.
SK하이닉스의 HBM·D램 1위 등정을 이끈 곽노정 SK하이닉스 사장(CEO)은 '적시 공급'의 중요성을 강조했다. 충북 청주 M15 2층 전공정 라인을 HBM 패키징 라인으로 전환하고 업황 다운턴에서 M15X 증설을 결정한 게 '신의 한 수'가 됐다는 것이다.
HBM3부터 HBM3E까지 이어진 SK하이닉스의 부상은 삼성전자에 직접적인 타격이 됐다. 겉으론 태연했지만, 삼성전자 내부는 동요했다. 이른바 '삼성 반도체 위기론'의 시작이다.

≫ HBM 열전 3회에서 계속


설 연휴에 HBM 열전을 한경닷컴의 반도체 전문 플랫폼 '반도체 인사이트'에 연재합니다. HBM1부터 최근 경쟁이 격화하고 있는 HBM4까지 산업의 스토리를 다룹니다. 한경 기사와 취재 내용에 컨설팅그룹 플랫폼9와3/4이 최근 발간한 책 <슈퍼 모멘텀>을 참조했습니다.


황정수 기자 hjs@hankyung.com