이 기사는 2024년 11월 28일 07:29 thebell 에 표출된 기사입니다.

KT AIDC 사업의 가장 큰 강점은 자회사 KT클라우드를 통해 다수 수도권 데이터센터(DC)를 확보할 수 있다는 부분이다. 경쟁력 있는 입지에 AIDC를 개관할 자생 능력을 갖추고 있다.

특히 엔비디아 생태계 종속 탈피 시도가 눈여겨볼 부분이다. 국내 AI스타트업인 모레, 리벨리온에 과감하게 투자했다. 기존 엔비디아 AI 개발 플랫폼과 그래픽처리장치(GPU)를 대체할 소프트웨어, 하드웨어 확보에 열을 올리고 있다. 경쟁사들과는 다른 방향이다.

◇대규모 수도권 DC 인프라, 엔비디아 타도 AI 개발 플랫폼 보유

KT에서 수도권 DC 인프라를 확실히 갖고 있다. KT클라우드에서 보유한 수도권 DC는 총 8곳에 달한다. 전국 기준으로는 13개로 국내 최대 DC 인프라다. 건립이 진행 중인 가산, 경북, 부천 프로젝트까지 포함하면 향후 KT가 보유할 DC는 더 늘어나게 된다.

DC는 GPU 서버 탑재, 공조·냉각 설비 강화를 통해 향후 AIDC로 전환할 수 있다. 일례로 올해 KT와 KT클라우드는 기존 고양 백석 DC를 고성능 AI 전용 백석 AIDC로 만들었다. 차후 다른 DC 역시 AIDC로 전환할 가능성이 높다.

수도권 내 추가 AIDC 건설은 전력 수급 문제로 사실상 어려워진 상황이다. 고객사 대부분은 지방보다 수도권 내 시설을 선호한다. 기존 DC의 AIDC 전환 외에는 별다른 대안이 없는 셈이다. 이를 고려하면 KT에서 이미 보유한 수도권 DC 인프라는 큰 경쟁력이다.


모레와의 기술협력을 통한 엔비디아 GPU 생태계 종속 해결 노력도 KT와 KT클라우드의 AIDC 경쟁력이다. 모레는 AI 인프라 소프트웨어 전문 기업이다. 대표적으로 여러 기업의 GPU, NPU와 호환할 수 있는 AI 개발 플랫폼을 설계한다.

엔비디아가 AI, GPU 시장에서 높은 점유율을 가진 이유는 자체 AI 개발 플랫폼 쿠다(CUDA) 때문이다. 모레의 AI 개발 플랫폼은 CUDA와 호환이 가능하다. 다른 브랜드 GPU, NPU에서도 AI서비스 모델을 사용할 수 있다.

KT는 이미 모레의 기술력을 하이퍼스케일 AI 컴퓨팅(HAC)이란 서비스로 제공 중이다. HAC를 이용해 개발하는 고객사와 AI 기업이 늘어나면 업계 내 엔비디아 GPU 의존도 역시 떨어진다. KT는 이를 통해 AIDC 사업에서의 엔비디아 GPU 조달 부담을 낮추고 다른 AI 서비스 사업 영역에서도 시너지를 낼 수 있다.

◇수백억 리벨리온 투자, 핵심은 AIDC 하드웨어 독립

KT는 AIDC 하드웨어에서도 리벨리온을 통해 엔비디아 종속에서 벗어나려 하고 있다. 2022년부터 리벨리온에 총 665억원을 출자해 올해 상반기 기준 9.16% 지분을 보유했다. 이를 매개로 리벨리온의 AI칩 아톰을 통한 LLM 모델 검증을 비롯해 AI 사업에서 다수 협력 관계를 맺었다.

리벨리온 같은 AI반도체 스타트업에서 개발하는 NPU는 AI 특화 칩, 프로세서다. 본래 GPU는 비디오 카드, 전자기기 내 그래픽 및 이미지 처리가 주용도다. 단순 연산 능력이 뛰어나 AI 개발에서 각광받지만 근본적 한계가 명확하다. AIDC 사업의 주된 문제인 전력 부담도 GPU의 높은 전력 소모에서 출발한다.

NPU는 이와 달리 학습, 추론 같은 AI 머신러닝에 맞춰 설계됐다. 동급 GPU 대비 AI 개발에선 더 높은 성능과 낮은 전력 소모를 보여준다. 단순 연산 성능만으로 우열을 가리긴 어렵지만 아톰도 특정 작업에서 동급 엔비디아 GPU보다 최대 2배 빠른 속도를 보였다.

KT가 리벨리온에서 안정적으로 고성능 NPU를 수급하게 된다면 AIDC 경쟁력을 크게 높이게 된다. 조달 과정에서 투입되는 자본적지출(CAPEX)을 크게 낮출 수 있다. AIDC 내 NPU 비중을 높이면 전력 소모와 운영비용(OPEX)을 절감할 수 있어 수익성 개선도 기대된다.

분수령은 리벨리온의 신규 AI칩인 리벨 출시다. 리벨은 삼성전자 고집적 반도체 HBM3E를 탑재해 만든 NPU다. GPT 3.5 이상 LLM 모델에 특화해 최대 1000억개 이상 매개변수를 처리할 수 있는 능력을 목표하고 있다. 리벨 양산과 출시 시점은 올해 연말, 내년으로 점쳐진다. 이를 감안하면 성능을 만족할 시 조만간 KT AIDC에도 공급될 전망이다.