이 기사는 2024년 05월 31일 07:39 thebell 에 표출된 기사입니다.

인공지능(AI) 서버가 확산하면서 전 세계적으로 데이터 사용량이 급증했다. 이미 과부하가 진행 중인 데이터센터용 중앙처리장치(CPU), 그래픽처리장치(GPU) 등이 더욱 감당하기 어려워진 용량에 도달한 것이다.

해법으로 나온 것이 '연산 메모리'다. 통상 메모리와 프로세서가 분리돼 두 칩 간 데이터가 오가는 과정에서 병목 현상이 발생했다. 이를 최소화하고자 메모리에서 간단한 계산을 대신해주는 개념이 등장했고 삼성전자와 SK하이닉스는 사업화를 준비 중이다. 대표적인 게 프로세싱 인 메모리(PIM)다.

◇삼성전자, HBM 더해보고 eM램 준비하고

그동안 반도체 시스템은 CPU가 메모리에서 명령어를 불러와 실행한 후 결과를 메모리에 저장하는 방식으로 이뤄졌다. PIM은 메모리 내부 저장 공간(뱅크)마다 전용 내부 데이터 경로의 대역폭을 활용해 연산 속도를 높인다. PIM이 도입되면 간단한 작업은 메모리에서 해결할 수 있게 된다.

손교민 삼성전자 마스터는 30일 서울 서초구 엘타워에서 열린 '2024년 제2회 AI-PIM 반도체 워크숍'에서 "PIM이 메모리 보틀넥에 적합하지만 관련 생태계를 전환해야 한다는 점이 어려운 부분"이라며 "(항상 연산하는 게 아니라) 필요시에만 메모리에서 연산을 처리해주자는 게 메모리 제조사의 시각"이라고 말했다.

삼성전자는 PIM에 고대역폭 메모리(HBM)를 결합한 'HBM-PIM' 상용화를 시도 중이다. HBM은 여러 개 D램을 적층해서 만드는 고성능 메모리다. 둘을 더해 데이터 이동을 줄이고 AI 에너지 및 데이터 효율성을 극대화하겠다는 포석이다.

앞서 AMD의 'MI-100' 가속기 카드에 HBM-PIM이 투입되기도 했다. 당시 AMD는 "PIM을 활용하면 기존 메모리로 정보 처리하는 것보다 85% 이상 전력을 절감할 수 있다"고 치켜세웠다.


삼성전자는 또 다른 개념의 메모리도 개발했다. 내장형 M램(eMRAM)이 주인공이다. M램은 자기저항식 랜덤 액세스 메모리다. D램 등 기억소자가 전기를 축적해 정보를 기억하는 것과 달리 자기(장)를 이용해 정보를 기억하는 새로운 형태다. 낸드플래시처럼 전원을 꺼도 데이터가 유지되고 낸드 대비 데이터 쓰기 속도가 빠르고 전력 소모가 낮은 게 특징이다.

이날 정기태 삼성전자 부사장은 "보안에 대한 중요성이 높아지면서 시스템반도체 내부에서 데이터를 저장하고 처리하는 임베디드 메모리의 수요가 생기고 있다"면서 "(삼성전자는) 플래시와 매그네틱 등을 개발 중"이라고 전했다.

2019년부터 삼성전자는 28나노미터(nm) 공정 기반 eMRAM을 양산하고 있다. 이는 스마트워치 등에 장착된다. 추후 14나노, 8나노, 5나노 등으로 공정 미세화에 나선다.

정 부사장은 "14나노 제품 개발을 완료했다. 8나노 역시 어느 정도 끝났다. 5나노까지 기술 개발을 진행할 것"이라고 언급했다.

삼성전자가 eMRAM으로 노리는 분야는 완성차다. 연내 자동차 안전 규격에 맞춰 14나노 eMRAM을 개발하겠다고 발표한 바 있다. 자동차 특성상 가혹한 환경에 노출되는 경우가 많다. 따라서 온도 등에 대한 동작 신뢰성을 높이는 것이 관건으로 꼽힌다.


◇SK하이닉스, HBM-PIM 대신 'AiM' 앞세운다

SK하이닉스는 '액셀러레이터 인 메모리(AiM)'이라는 자체 PIM 브랜드를 만들었다. 여기에 HBM이 아니라 그래픽더블데이터레이트(GDDR)6를 합쳤다. HBM보다 값싼 GDDR6 활용해 가성비를 높이려는 계획이다.

임의철 SK하이닉스 펠로우는 "챗GPT 등을 구동하려면 기존 검색 서비스 대비 100배 이상 비용이 들어간다. 대부분 전기료와 냉각비로 쓰이는데 궁극적으로 전력 소모를 줄여야 하는 것"이라고 강조했다.

임 펠로우가 대안으로 내세운 것이 PIM이다. 다만 관련 생태계 구축이 선결 과제로 꼽았다. 단순히 메모리 업계만 움직인다고 될 문제가 아니라 CPU, GPU 등 업체들도 동참해야 한다.

같은 맥락에서 그는 GDDR6-AiM 기반 가속기 카드 'AiMX'를 소개했다. 임 펠로우는 "AiMX는 AI 서버에 직접 꽂아서 사용할 수 있다. 기존 가속기 설계를 수정할 필요가 없고 소프트웨어 구조 변경도 최소화한 것이 특장점"이라고 이야기했다.