반도체 기술 탐구: AI 시대에 주목받은 메모리 반도체 HBM

HBM이 뭐길래

 

HBM은 ‘High Bandwidth Memory’의 줄임말이다. 우리말로 직역하면 ‘고대역폭 메모리’라는 뜻이다. 즉, 다른 메모리 반도체보다 대역폭이 높은 반도체 칩이라고 생각하면 쉽다.

 

인공지능(AI) 수요가 빠른 속도로 성장하면서 HBM 산업 기술 패권을 놓고 삼성전자와 SK하이닉스는 ‘서로 1위’라며 기 싸움을 벌인다. AI와 HBM 칩 산업의 가파른 성장은 메모리 반도체 산업의 속성도 확 바꿔놓을 전망이다. 산업계에서는 메모리 반도체 역시 파운드리 같은 커스텀 비즈니스로 그 속성이 변화하면서 후공정 첨단 패키징 기술이 각광받을 것으로 본다.

 

다만, 반도체업계에서는 HBM 시장에 대한 과도한 낙관론을 경계해야 한다는 분위기도 읽힌다. 전문가들은 전체 D램 시장에서 HBM의 점유율이 1%를 밑돌 것으로 보고 있다. 단기간 가파른 성장세를 보이더라도 전체 반도체 산업의 이익을 좌우할 영향력을 갖기까지는 적잖은 시간이 걸릴 것이라는 게 대체적인 시각이다.

 

 

 

 

AI 시대 각광받는 신메모리

 

엔비디아는 생성형AI 및 LLM(대형언어모델) 등 새로운 인공지능 모델에 H100 등 고성능 그래픽 칩을 공급하고 있는데 H100 등에 탑재되는 메모리반도체가 HBM이다.

 

HBM 개념을 이해하려면 컴퓨터 메모리 작동 원리를 알아야 한다. PC를 비롯해 스마트폰, 서버 등에 쓰이는 메모리 반도체는 크게 2가지로 구성이 나뉜다. 연산과 자료 저장이다. 계산과 저장이 동시에 가능한 인간의 뇌와 달리 컴퓨터 메모리는 2가지 일을 한 번에 처리하지 못한다. 연산을 담당하는 CPU와 자료 저장을 처리하는 메모리가 별도 역할을 맡는다.

 

 

이때 두 장치로 데이터가 옮겨 다니는 통로가 바로 대역폭(Bandwidth)이다.

2010년대 들어 컴퓨터 그래픽 기술이 본격적으로 도입되면서 대역폭의 중요성이 커졌다. 문자, 수식, 2차원 그림과 달리 3차원 그래픽은 CPU와 메모리 사이에서 오가는 데이터양이 월등히 많다. 기존 좁은 대역폭으로는 그래픽의 막대한 데이터를 감당하지 못했다.

 

대역폭을 늘리기 위한 여러 방식이 도입됐다. 그중 가장 효과를 보인 것은 반도체 기판(PCB) 크기를 키운 뒤, 연산장치 주변에 최대한 많은 저장장치를 붙이는 GDDR(그래픽 더블 데이터 레이트) 방식이었다. 통로를 늘려 데이터가 이동할 만한 공간을 확보한 방식이다.

GDDR 메모리는 기존 메모리 칩보다 데이터 처리 속도가 2배가량 빠르지만, 단점도 명확했다. 상대적으로 넓은 기판을 필요로 했기에 효율성이 떨어졌다. 이를 해결하기 위해 등장한 게 HBM이다.

 

HBM은 적층 방식이다. 기판에 하나의 트랜지스터만 붙이는 기존 방식을 탈피했다. 메모리 트랜지스터를 최대 12개 레이어 높이로 쌓아 올려 기판에 부착한다. 이후 12개 층으로 이뤄진 메모리 칩을 실리콘 관통전극(TSV)이라는 기술로 연결한다. 쉽게 말하면 메모리 레이어를 쌓아 12층짜리 아파트를 만든 뒤, TSV라는 엘리베이터로 기판과 연결한 것이다. 여러 트랜지스터를 쌓아 올리기 때문에 HBM은 같은 면적에 들어가는 메모리 트랜지스터 개수가 기존 메모리 칩보다 월등히 많다.

개수가 늘어나면서 통로인 대역폭의 크기도 커졌다. HBM 칩 대역폭은 기존 D램에 비해 약 128배 넓다. HBM은 초창기 시장에서 외면받았다. 구조가 복잡하다 보니 수율이 낮고 사후 수리도 까다로웠다. 다소 애매하던 HBM의 입지는 AI 등장으로 180도 바뀌었다. AI는 인간의 뇌처럼 자료 연산과 저장을 끊임없이 반복한다. 같은 시간에 많은 데이터가 오갈수록 AI 처리 속도가 더 빨라진다. 대역폭이 AI의 성능을 결정짓는 것이다. 대역폭이 압도적으로 큰 HBM이 필수인 이유다.

 

 

 

하이닉스, HBM 1위 마케팅 & 삼성 “자체 조사 기준 1등”

최근 반도체 시장에서는 삼성전자와 SK하이닉스가 HBM 시장에서 ‘서로 1위’라며 한판 기 싸움을 벌이는 모습이 종종 목격된다. SK하이닉스가 선제적으로 HBM 1위 마케팅에 나섰고 시장에서도 이런 주장이 먹히자 다급해진 쪽은 삼성전자였다. 삼성전자도 ‘진짜 1위는 우리’라며 맞불을 놨다.

 

선제 포문을 연 것은 SK하이닉스였다. 지난 7월 26일 실적 발표 콘퍼런스 콜에서 박명수 SK하이닉스 D램 마케팅담당은 “고객 피드백을 보면 타임 투 마켓(Time-to-Market·신제품을 출시하는 속도), 제품 완성도, 양산 품질, 필드 품질을 종합해 SK하이닉스가 가장 앞서고 있다는 점이 확인되고 있다”고 밝혔다.

 

이어 7월 27일 삼성전자도 2분기 실적 콘퍼런스콜에서 “삼성전자는 HBM 시장 선두 업체로, HBM2를 주요 고객사에 독점 공급했고, 후속으로 HBM2E 제품 사업을 원활히 진행하고 있다”고 설명했다.

 

삼성전자와 SK하이닉스가 HBM 반도체 기술력을 두고 치열한 신경전을 벌인다. 사진은 경계현 삼성전자 DS 부문 사장(위)과 박정호 SK하이닉스 대표이사 부회장.

삼성 내부에서는 SK하이닉스의 HBM 1위 마케팅을 곱지 않게 보는 시선이 많은 분위기로 알려진다. 삼성은 메모리 D램에서의 감산 강도를 더욱 높이겠다는 계획을 밝혔는데, 시장에서는 삼성이 감산을 진행하면 할수록 SK하이닉스에 유리한 국면으로 보고 있다.

 

반도체업계 관계자는 “D램 세계 1위 삼성 입장에서는 감산 속도 조절이 전략적으로 중요한 선택지였는데, 대내외 압박에 서둘러 감산에 나섰던 것이 결과적으로는 SK하이닉스에 좋은 일이 돼버렸다”며 “이런 마당에 SK하이닉스가 HBM 1위 마케팅을 선제적으로 치고 나가고 삼성이 쫓아가는 구도가 된 것도 삼성 입장에서는 달갑지 않은 일”이라고 촌평했다.

쟁점을 따져보면, 현재까지 HBM 시장에서 SK하이닉스가 다소 앞선 구도라는 것에는 별 이견이 없어 보인다. SK하이닉스는 2013년 미국 반도체 업체 AMD와 손잡고 업계 최초로 TSV 기술을 적용한 HBM 개발에 성공했다. TSV는 수직으로 쌓은 D램에 1024개 구멍을 뚫고 전기 신호가 오가는 길을 만드는 기술이다.

기술 경쟁에서 SK하이닉스가 조금씩 앞서 나가는 형국이다. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3) 순으로 개발돼왔다. SK하이닉스는 4세대 제품인 HBM3 양산에 성공했다는 것이 공식 입장이다. 삼성전자는 이보다 늦은 올해 말쯤 양산에 들어갈 전망이다.

두 회사가 가장 부딪히는 지점은 시장점유율이다. 시장조사 업체 트렌드포스에 따르면, 지난해 HBM 시장점유율은 SK하이닉스가 50%, 삼성전자가 40%, 마이크론이 10%였다. 삼성전자는 이 자료를 신뢰하지 않는다는 게 속내다.

 

경계현 삼성전자 디바이스솔루션(DS)부문 사장은 지난 7월 5일 임직원 대상 행사에서 “삼성전자 HBM 시장점유율은 여전히 50% 이상”이라고 말했다. ‘50% 이상’이라는 표현은 삼성이 1위라는 점을 우회적으로 표현한 것으로 보인다. 하지만, 삼성은 점유율 산정의 근거를 명쾌하게 내놓지 못하고 있다. ‘내부 자체 조사 기준’이라는 게 삼성의 공식 입장이다. 아직 HBM 시장의 절대적인 규모가 작아 시장조사기관에서 내놓는 점유율 추정이 정확하지 않다는 게 삼성 경영진의 인식이라는 설명이다.

SK하이닉스는 엔비디아향 HBM3 모델의 주요 생산자로서 올해 들어 주가가 엔비디아 주가와 동조화 현상을 보일 정도로 밀접한 관련이 있기도 하다. SK하이닉스는 2024년 HBM 생산능력을 전년 대비 107% 늘리기로 결정하는 등 시장주도적 지위를 강화하고 있다.

김록호 하나증권 연구원은 “SK하이닉스 목표주가를 11만5천 원에서 15만8천으로 상향한다”며 “HBM 시장에서 경쟁 우위를 확보한 가운데 강한 가격 협상력도 지니고 있다”고 말했다. 이날 SK하이닉스는 주가가 직전 거래일보다 0.78% 오른 11만5800원에 거래를 마쳤다.

 

 

 

 

HBM 시장 성장 전망?

 

시장조사업체 트렌드포스에 따르면 2024년 HBM 시장규모는 약 90억 달러(약 12조 원) 수준으로 전년대비 128% 성장할 것으로 전망된다.

 

 

 

 

AI 반도체發 ‘나비 효과’ :메모리도 이제는 커스텀 비즈니스로 되는가?

 

 

AI 기술 고도화로 촉발된 HBM 시장 개화는 메모리 반도체 산업의 속성을 바꿔놓을 것이라는 분석이 지배적이다.

첫째, HBM 칩 시장은 주문형, 수주형 산업에 가깝다. 삼성과 SK하이닉스가 지금까지 주력해온 메모리 반도체는 범용 비즈니스에 속한다. 이런 속성의 시장은 자본집약적, 중앙집중적 생산 구조가 요구된다.

 

HBM 같은 고부가가치 메모리 칩이나 시스템 반도체, 파운드리 등은 커스텀 비즈니스 영역에 해당한다. 매크로 기반 투자에 강하다는 것과 커스텀 비즈니스에서 두각을 보인다는 것은 전혀 다른 얘기라는 게 반도체 전문가들의 한결같은 목소리다. 중앙집중적 생산 구조 기반 범용 메모리 시장에서 요구되는 혁신 역량과 커스텀 비즈니스에서 요구되는 혁신 역량은 서로 다르다. 산업 헤게모니가 변화하는 과정에서 조직 자원 분산과 재배치에 기민하게 대응하는 역량에 따라 HBM 시장에서의 성패가 갈릴 것이라는 관측이다.

둘째, HBM을 비롯한 AI 반도체 산업 성장으로 후공정 프로세스의 기술적 가치가 더욱 주목받는다.

 

반도체는 크게 웨이퍼를 제조하고 회로를 새기는 전공정, 칩을 패키징하는 후공정으로 나뉜다. 2년마다 반도체 집적도가 두 배 증가한다는 ‘무어 이론’ 시대에는 전공정이 중요했다. 하지만, 반도체 미세화 공정이 기술적, 사업적 한계에 다다르면서 패키징의 중요성이 점점 더 커진다. 후공정 기술 고도화를 위해서는 공정 역량뿐 아니라 소재, 물질, 화학, 재료과학, 장비 기술 등의 통합적인 산업 역량이 요구된다.

패키징은 반도체 공정에서 생산된 칩을 기판과 연결해 실제 사용할 수 있는 형태로 가공하는 것을 의미한다. 최근에는 ‘Advanced Packaging’이라 불리는 첨단 패키징이 산업 판도를 바꿔놨다. 여러 개 칩을 입체적으로 쌓아 집적도를 높이는 첨단 패키징 기술은 ‘모어 댄 무어’ 시대에 더욱 각광받는다.

HBM이 들어가는 AI 칩은 첨단 패키징 기술이 집약된 대표적인 경우다. AI 반도체 패키징 안에는 그래픽 처리 장치(GPU)로 엔비디아의 H100 또는 AMD의 MI300X가 들어가고 HBM으로 삼성전자나 SK하이닉스가 만든 HBM 3.0 칩이 들어간다. HBM 칩도 서로 다른 여러 반도체를 하나의 형태로 패키징한 시스템인패키지(SIP) 제품으로 공급된다. 이 모든 칩이 종이처럼 얇은 3차원 공간에 내장된다. 이런 반도체 패키징 구조에서는 GPU와 HBM이 서로 빛의 속도로 데이터를 주고받을 수 있는 신호선도 깔아야 한다.

삼성전자가 SK하이닉스를 내심 ‘한 수 아래’로 보는 인식이 있는 것도 패키징 등 후공정 역량 때문이다. 반도체 시장에서는 HBM4 단계부터는 7㎚ 이하 첨단 파운드리 공정으로 전환될 것으로 보고 있다. SK하이닉스는 생산을 위해 별도 파운드리 업체에 위탁해야 하지만 삼성전자는 일정 수준 자체 생산이 가능하다. 비용과 효율 측면에서 우위에 있는 것이다.

그러나, 삼성 역시 대만의 TSMC와 비교하면 첨단 패키징 기술이 10년 가까이 뒤처졌다는 게 산업계 진단이다. 현재는 삼성전자와 SK하이닉스가 HBM을 생산하더라도 부가가치가 집약되는 AI 반도체의 최종 생산은 TSMC가 맡는다. 반도체 패키지 전문가 최광성 ETRI 실장은 “TSMC와 한국의 첨단 패키지 기술력 차이는 10년 정도라고 생각한다”며 “TSMC는 이미 2011년부터 칩렛 기술을 개발해 양산하기 시작했고 한국이 목표로 하는 2.5D 패키징을 양산 중인 단계”라고 말했다.

TSMC는 2011년부터 2021년까지 10년간 5세대에 걸쳐 2.5D 패키징을 발전시켰다.

 

TSMC의 첨단 패키징 기술은 ‘CoWoS’라고 불린다. 이는 생산수율이 낮은 대면적 칩을 4개로 나눈 뒤 이들이 마치 단일 칩처럼 동작하도록 ‘실리콘 인터포저(Si interposer)’라는 특수 부품으로 연결한 것이다. 기판에 평면적으로 연결하는 기존 방식과 구분해 ‘2.5D’ 패키징으로도 불린다. 산업계에서는 TSMC 첨단 패키징 기술이 사실상 업계 표준으로 자리 잡았다고 본다.

 

삼성전자는 2021년에서야 ‘I-Cube(아이큐브)’라고 명명한 2.5D 패키징 기술을 선보였다.

 

문제는 대만과 한국의 반도체 후공정 인프라 차이가 워낙 커 단기간에 이를 따라잡기가 매우 힘들다는 데 있다. 글로벌 10대 반도체 후공정(OSAT) 기업 중 국내 기업은 전무하다.

다급해진 삼성전자는 지난해 말 조직개편을 통해 DS부문 직속으로 AVP(첨단패키징)팀을 신설했다. 내년 2분기부터 4개의 HBM을 GPU 등과 함께 배치한 ‘아이큐브 4’를 양산하고 3분기에는 8개의 HBM을 배치한 아이큐브 8을 양산할 계획이다.

 

 

 

 

HBM 관련주 투자는?

 

증권가는 HBM 관련주를 크게 2가지 테마로 나눈다. 직접 메모리를 생산하는 칩 메이커, HBM 생산 공정에 필요한 설비를 만드는 장비주다.

가장 주목받는 곳은 국내 반도체 제조 업체다.

 

메모리 강자인 삼성전자와 SK하이닉스가 최대 수혜주로 꼽힌다. 두 기업 모두 HBM 수요 증가에 따른 매출 상승이 기대된다. 삼성전자는 올해 4분기부터 엔비디아에 HBM3 공급을 본격화할 전망이다. 시장에서는 삼성전자 D램 매출 중 HBM3가 차지하는 비중이 2023년 6%에서 2024년 18%까지 증가할 것으로 본다. 김동원 KB증권 애널리스트는 “올해 4분기 삼성전자의 HBM3 양산은 최근 경쟁사와 벌어진 주가 상승률 차이를 축소시키는 촉매로 작용할 것”이라고 전망했다.

SK하이닉스는 HBM 시장 성장에 가장 큰 혜택을 받은 회사로 꼽힌다. SK하이닉스의 지난 2분기 HBM 매출액은 1분기 대비 2배 이상 증가했다. 가격이 일반 D램의 6~8배에 달하는 HBM 매출 급증은 D램 사업부 실적 개선으로 이어졌다. 노근창 현대차증권 리서치센터장은 “현재 수요가 많은 엔비디아 그래픽카드 제품에 SK하이닉스의 HBM이 들어간다는 점에서 다른 메모리 업체들 대비 수혜폭이 클 것으로 보인다”고 설명했다.

 

 

HBM 생산 공정에 사용되는 반도체 장비 종목도 눈여겨볼 만하다.

 

오로스테크놀로지, 한미반도체, 이오테크닉스 등이 대표적인 HBM 관련 장비주다.

오로스테크놀로지는 반도체 패키징에 필수인 오버레이 계측 장비를 납품한다.

 

오버레이 계측장비란 반도체 칩의 상부와 하부가 제대로 정렬돼 쌓여 있는지 검사하는 장비다. HBM에 TSV를 넣는 공정에서 오로스테크놀로지의 패키지 장비가 사용된다. 적층에 약간이라도 오정렬이 발생하면 쇼트(단락) 및 수율 악화 등 문제가 발생한다. 고성능 고단가 메모리반도체인 HBM은 생산수율을 높여야만 하므로 계측장비 수요도 덩달아 늘고 있다. 

 

 

오로스테크놀로지는 지난해 말 중국 메모리반도체 업체인 CXMT로부터 장비 수주를 받은 바 있으며 올해 4월 국내 주요 고객사에도 전공정용 오버레이 장비와 패키징용 오버레이 계측장비를 공급했다. 

 

한편 경쟁사인 KLA가 미국정부 제재로 중국 기업들에 장비 판매가 제한됨에 따라 중국 기업들의 오로스테크놀로지에 대한 수요가 늘어날 것으로 기대된다. 오로스테크놀로지는 CXMT 외에도 JHICC 등 중국 메모리반도체 업체로부터 수주를 받은 바 있다.

 

 

 

한미반도체는 HBM 생산 중 필수 장비인 듀얼 TC 본더를 만든다.

 

해당 장비는 TSV 공정으로 제작된 반도체 칩을 웨이퍼에 부착·적층하는 장비다. 주요 반도체 업체들이 HBM 생산량을 늘리는 만큼, 한미반도체 장비 수요도 덩달아 증가하리라는 분석이다.

 

 

이오테크닉스는 레이저 어닐링장비를 비롯한 반도체용 레이저 응용장비를 제조하는 업체다.

 

레이저 어닐링장비는 반도체 결함부에 레이저로 이온을 주입해 원래 위치에서 벗어난 실리콘 원자를 복원하는 데 쓰인다. 이오테크닉스는 레이저 어닐링장비를 삼성전자에 납품하고 있다. 레이저 어닐링장비는 D램 1z(3세대 10나노) 이하 공정에서 사용된다. 

삼성전자는 HBM3와 HBM3E(4세대 HBM)를 양산할 수 있는 기술력을 보유하고 있다. HBM3는 1z에서, HBM3E은 1a(4세대 10나노) 공정에서 생산될 것으로 예상됐다. 삼성전자는 HBM 수요의 급성장에 따라 생산을 확대하고 있어 레이저 어닐링장비도 수요가 늘 것으로 기대됐다.

아울러 이오테크닉스가 국산화에 성공한 레이저 그루빙장비와 레이저 스텔스다이싱 장비도 매출성장에 기여할 것으로 분석됐다.

이오테크닉스는 삼성전자에 납품할 레이저 스텔스다이싱 장비의 양산을 준비하고 있다. 레이저 스텔스 다이싱장비는 웨이퍼 내부에 레이저 에너지를 모으는 방식으로 변질된 층을 만들어 자르기 좋게 만들어 준다.

이오테크닉스는 2023년 10월 레이저 스텔스다이싱 장비의 양산 검증을 완료하고 2023년 4분기에 수주할 것으로 예상됐다. 

이에 더해 이오테크닉스는 레이저 그루브장비의 시장점유율이 빠르게 늘 것으로 전망됐다. 레이저 그루브장비는 레이저를 활용해 반도체 표면에 홈을 만드는데 쓰인다.  2022년 기준 레이저 그루브장비 시장 규모는 약 4천억 원으로 추정됐는데 이오테크닉스는 시장점유율을 20%까지 확대할 수 있을 것으로 전망됐다.

변운지 하나증권 연구원은 “레이저 장비(그루빙+스텔스) 시장 규모는 2022년 기준 약 5천억 원으로 추정된다”며 “이오테크닉스는 2024년 레이저 장비(그루빙+스텔스) 매출만 연간 700억 원 이상을 달성할 것으로 전망한다”고 말했다

 

 

출처: 비즈니스포스트, 매일경제, 더벨

 

뜨리스땅

 

 

 

https://tristanchoi.tistory.com/458

반도체 기술 탐구: SK Hynix의 HBM 패키징 기술, TSV와 MR-MUF

 

 

https://tristanchoi.tistory.com/451

반도체 기술 탐구: HBM 채택 움직임 - 2. NVIDIA & AMD

 

 

https://tristanchoi.tistory.com/450

반도체 기술 탐구: HBM 채택 움직임 - 1. Intel

 

 

https://tristanchoi.tistory.com/401

반도체 기술 탐구: ChatGPT가 유발한 반도체 메모리의 수요 - HBM