[챗GPT발 AI 대전]삼성·SK가 꽂힌 게임 체인저 'PIM'[반도체]'메모리+연산' 차세대 기술, 초거대 AI 등 쓰임새 기대
원충희 기자공개 2023-03-20 11:46:46
[편집자주]
챗GPT가 쏘아올린 인공지능(AI) 검색엔진과 하이퍼스케일 AI 등이 순식간에 메가 트렌드로 부상했다. 누군가는 미래에 대한 기대를, 누군가는 위협을 느끼고 대응책을 마련 중이다. 국내에서도 반도체, IT·플랫폼, 게임, 블록체인 기업들이 이 변화를 놓치면 도태된다고 판단해 기존 비즈니스에 AI를 접목하거나 신사업에 뛰어들고 있다. 주요 테크기업의 AI 전략을 짚어보고 특장점이 무엇인지 청사진을 들여다본다.
이 기사는 2023년 03월 16일 08:00 thebell 에 표출된 기사입니다.
챗GPT를 비롯한 최근의 인공지능(AI)은 대용량 데이터를 학습, 인간처럼 종합적 추론이 가능하다는 특징이 있다. 이 같은 초거대(하이퍼스케일) AI가 원할하게 작용하려면 방대한 데이터를 초고속으로 분석하는 역량이 필요하다.AI 성능을 획기적으로 올려준다는 '프로세싱 인 메모리(PIM, Processing In Memory)' 반도체가 주목받는 이유다. 메모리에 시스템 반도체의 영역인 연산 기능을 더한 지능형 반도체로 AI 시장의 게임 체인저로 꼽혀 삼성전자와 SK하이닉스가 미래를 걸고 도전하는 분야다.
◇AI 반도체 산업의 패러다임 바꿀 키
현재 AI의 트렌드는 기존보다 수백 배 이상의 데이터를 학습해 인간의 뇌에 더 가깝게 학습·판단능력이 향상된 초거대 AI다. 구글(딥마인드)의 스위치트랜스포머, 오픈AI의 GPT-3 등이 대표적이다. 국내에선 네이버의 하이퍼클로바, 카카오브레인의 KoGPT, KT의 믿음(MIDEUM)이 있다. 최근 화제가 된 챗GPT는 GPT-3에서 한 단계 업그레이드 된 3.5버전의 기술을 사용했다.
이 같은 초거대 AI가 원활하게 작동하려면 방대한 데이터와 연산량을 감당할 수 있는 차세대 메모리 반도체가 필수다. PIM이 AI 반도체 산업의 패러다임을 바꿀 키로 여겨지는 이유다.

기존 AI는 연산 실행에 특화된 중앙처리장치(CPU)나 GPU, 신경망처리장치(NPU) 등 시스템 반도체와 데이터 저장기능을 가진 메모리 반도체가 연결된 형태다. 데이터 저장과 연산이 서로 다른 부품에서 이뤄지기 때문에 전력 효율이 떨어지고 CPU와 메모리 간에 주고받는 데이터가 많아질 경우 작업처리가 지연되는 현상이 생긴다. 데이터가 메모리 반도체와 시스템 반도체를 모두 거쳐가느라 더 많은 전력이 쓰이고 그 과정에서 연산 성능도 떨어질 수 있다.
◇초고속 데이터 분석+저전력 ESG 효과도
PIM은 데이터 저장에 특화된 메모리 반도체가 연산까지 할 수 있다면 전력 효율성과 데이터 지연 현상을 줄일 수 있다는 개념에서 시작했다. 삼성전자가 PIM을 개발하기 시작한 것은 AI와 디러닝 등이 막 꽃피우는 시절이었다. 당시만 해도 어떤 곳에 응용해야 할지 감이 서지 않는 시점이라 PIM을 선보이기 위해 기술검증만 10년을 진행했다.
삼성전자는 2021년 10월 HBM3-PIM을 세계 2위 CPU·GPU 기업인 AMD의 GPU 'MI-100' 가속기 카드에 탑재했다. 기존 HBM보다 성능은 2배 이상 향상되고 에너지 소모는 50% 감소한 결과를 얻었다. 향후 공개될 3세대 HBM3-PIM은 이보다 더욱 빠른 속도와 적은 에너지 사용량을 기록할 것으로 예상된다.

PIM을 통해 기대되는 또 다른 장점은 탄소저감에 따른 ESG 효과다. 삼성전자의 HBM3-PIM의 경우 기존 HBM을 탑재한 GPU 가속기보다 연간 2100기가와트시(Gwh)의 에너지를 절감하는 것으로 나타났다.
< 저작권자 ⓒ 자본시장 미디어 'thebell', 무단 전재 및 재배포 금지 >
관련기사
best clicks
최신뉴스 in 인더스트리
-
- 에이트원, 부동산 STO 신사업 위해 무궁화신탁 '맞손'
- [2023 BIO USA]"韓 생산만으로도 충분" 삼성바이오로직스 생산전략의 당위성
- 네이버, 클라우드 보안 계열사 만든다
- 벤처 접점 늘리는 롯데, CVC·바이오·헬스케어 전면에
- [AI 신약개발 점검]닥터노아바이오텍, 복합제 개발로 캐시카우 마련한다
- [반도체 기업 유동성 타임라인]삼성전자, 반도체 싸이클과 유동·부채비율의 상관관계
- 한빛소프트, 다시 퍼블리싱으로…돌파구 마련 시급
- 멋사X현카의 NFT 거래소, 신용카드 결제 승부수 통할까
- 공동대표 폐지 메타보라, 송계한 대표 물러난 배경은
- [반도체 기업 유동성 타임라인]SK하이닉스, 차입구조 장기화에서 찾는 유동성 부담 해법
원충희 기자의 다른 기사 보기
-
- 네이버, 클라우드 보안 계열사 만든다
- [네이버파이낸셜은 지금]재무·법무 밸런스 갖춘 이사회
- [네이버파이낸셜은 지금]간편결제서 종합자산관리로 서비스 진화
- [네이버파이낸셜은 지금]본사보다 더 풍족한 자회사…그룹 현금창고 역할
- 위메이드, 새 성장동력 '매드엔진' 몸값은 얼마
- [네이버파이낸셜은 지금]직접 진출보다 '제휴'…오프라인 결제 공략 '청신호'
- [네이버파이낸셜은 지금]최대 매출 계열사…덩치 대비 낮은 수익기여도
- 카카오페이, KP보험서비스 유증…네이버와 반대 행보
- '코인게이트' 사태의 본질
- [모빌리티 플랫폼은 지금]곳간 비어가는 타다, 토스·쏘카 '추가 출자'는 언제