이 기사는 2024년 02월 07일 10:12 thebell 에 표출된 기사입니다.

지난해 반도체 업계에서 최대 화두는 단연 고대역폭 메모리(HBM)였다. 인공지능(AI) 반도체와 시너지를 내면서 관련 업체에 단비 같은 존재로 자리매김했다. HBM 바람은 올해 더욱 거세질 전망이다. 엔비디아와 AMD에서 아마존, 마이크로소프트(MS), 구글 등으로 고객군이 넓어진 영향이다.

HBM 시장 역시 메모리 강자인 삼성전자와 SK하이닉스가 주도하고 있다. 다만 기존 구도와 다른 점은 '순위'다. SK하이닉스 한발 앞서고 삼성전자가 추격하는 양상이다. 말 그대로 '신선한 충격'이다. 이 분위기를 이어가려는 SK하이닉스와 원상복구를 원하는 삼성전자 간 대결의 막이 올랐다. 마이크론까지 가세하면서 경쟁은 점입가경이다.

◇'AI 반도체 짝꿍' HBM, D램 내 비중 '9%→18%' 전망

시장조사기관 트렌드포스에 따르면 전 세계 HBM 시장 규모는 2023년 39억달러(약 5조2000억원)에서 2027년 89억달러(약 11조8000억원)로 커질 전망이다. 최근 김춘환 SK하이닉스 부사장은 "2026년까지 연평균 성장률이 40% 이상일 것"이라고 말했다.

기대를 한몸에 받고 있는 HBM은 여러 개 D램을 실리콘관통전극(TSV) 기술로 쌓아 만드는 고부가 메모리다. TSV는 수천개의 미세 구멍을 뚫어 위아래 칩을 수직 관통하는 전극으로 연결하는 패키징 방식이다.


1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E)-6세대(HBM4) 순으로 개발되고 있다.

HBM은 3세대까지 큰 주목을 받지 못했지만 챗GPT발 AI 확산으로 위상이 달라졌다. 초거대 AI 특성상 데이터 사용량이 급증하면서 동시 처리해야 할 작업이 많아져 병렬 연산에 능한 그래픽처리장치(GPU)가 부각됐다. 이때 대역폭이 넓어 한 번에 많은 데이터를 빼낼 수 있는 HBM이 단짝으로 자리 잡은 것이다.

당초 HBM 역시 삼성전자가 주도해왔다. 다만 응용처가 마땅치 않자 삼성전자 내부에서는 HBM에 보수적으로 접근한 것으로 전해진다. 이때 전반적인 일정이 밀리고 고객과의 접점이 줄었다는 후문이다. HBM3 개발 과정에서 일부 차질을 빚은 것도 한몫했다.

반면 SK하이닉스는 엔비디아 등과 밀접하게 교류하면서 HBM 개발을 밀어붙였고 결과적으로 경쟁사보다 약 1년 먼저 HBM3 양산에 돌입했다. HBM3을 선점한 SK하이닉스는 가격협상력에서도 삼성전자보다 우위를 보인 것으로 파악된다.

반도체 업계 관계자는 "초반에 물량을 확보하면 가격을 주도적으로 정할 수 있게 된다. 후발주자는 최소 10% 정도의 단가 인하가 불가피할 것"이라고 설명했다.

엔비디아의 AI용 GPU 수요가 빠르게 늘면서 HBM도 존재감이 급격하게 커졌다. 시장조사기관 옴디아는 전체 D램 시장에서 HBM 비중이 지난해 9%에서 올해 18%로 상승할 것으로 전망했다.

상대적으로 비중이 작아 HBM에 덜 신경썼던 삼성전자는 올해 HBM 투자를 본격화한다. 메모리 시설투자액(CAPEX)을 HBM에 몰아주면서 생산능력(캐파)을 전년 대비 2.5배 늘릴 방침이다. SK하이닉스도 작년보다 HBM 캐파를 2배 증대해 대응한다.

여기에 3인자로 여겨지는 마이크론도 합류한다. 마이크론은 HBM3를 건너뛰고 HBM3E로 직행하는 승부수를 띄웠다. 1~2위 회사와의 기술 격차를 최소화해 고객 확보에 나서겠다는 계획이다. HBM 주문이 워낙 많아 이미 3사의 올해 HBM 생산분 판매는 마감된 상태다.

이제 3개 업체가 같은 방향으로 가는 만큼 승부는 기술력에서 판가름날 것으로 보인다. 현시점에서 SK하이닉스는 'MR-MUF(Mass Reflow Molded Underfill)', 삼성전자와 마이크론은 'TC-NCF(Thermo Compression Non Conductive Film)'라는 패키징 기술을 활용한다.

MR-MUF는 내부 공간 전체에 열을 가해 납땜을 진행하고 칩 사이에 체 형태의 보호재를 넣어 공백을 채우는 방식이다. TC-NCF는 비전도성 접착 필름을 칩 사이에 넣고 위에서부터 열 압착을 가하는 본딩 공정으로 마무리하는 방법이다. MR-MUF가 TC-NCF 대비 선행 기술로 여겨지나 삼성전자는 첨단 NCF 소재를 적용해 간극을 없앴다는 설명이다.

HBM4부터는 솔더볼이나 범프 등 연결 소재 없이 칩과 칩을 붙이는 '하이브리드 본딩' 도입 가능성이 제기된다. 각사 전략이 갈리거나 겹칠 수 있는데 패키징 고도화 여부에 따라 3파전이 2파전 또는 독주 체제로 전환될 수 있다.


◇'똑똑한 메모리' PIM 탄생, 삼성의 반격 카드

앞서 언급한 대로 CPU와 GPU가 방대한 데이터를 처리해야 하기 때문에 과부하 우려가 커진 상황이다. 이에 메모리 제조사는 HBM을 넘어 프로세싱 인 메모리(PIM)라는 신제품 개발에 착수했다.

PIM은 D램에 연산이 가능한 프로세서 기능을 더한 반도체다. 통상 메모리와 프로세서가 완전히 분리돼 두 칩간 데이터가 오가는 과정에서 병목 현상이 잦았다. 이를 어느 정도 해소할 수 있도록 메모리가 간단한 연산을 대신해주는 개념이 등장한 것이다.

삼성전자는 HBM와 PIM을 더한 HBM-PIM, SK하이닉스는 그래픽 D램에 PIM 기술을 적용한 GDDR6-AiM 등을 내놓은 바 있다. 삼성전자는 실제로 AMD GPU에 해당 제품을 탑재하는 등 경쟁사 대비 앞선 것으로 평가받는다. HBM-PIM 활용 시 기존 GPU 가속기 대비 평균 성능 2배 증가, 에너지 소모 50% 감소가 기대된다.

PIM은 아직 완전치 않아 HBM처럼 본격적으로 투입되기까지는 시간이 필요하다는 분석이 지배적이다. AI 열풍이 당분간 꺼지지 않을 전망이어서 PIM이 언제부터 제대로 된 역할을 맡을지가 관건으로 꼽힌다.