이 기사는 2024년 11월 27일 10:57 thebell 에 표출된 기사입니다.

SKT는 AIDC 사업 가동을 내년부터 본격적으로 나선다. 올해 연말 개소할 가산AIDC를 필두로 전국 시설을 확장하고 글로벌 진출도 타진한다. AIDC 사업에서 고객유치에 큰 영향을 미칠 고성능 그래픽처리장치(GPU) 확보에 열을 쏟고 있는 배경이다.

사업 기반을 어느정도 갖췄지만 SKT AIDC 사업은 경쟁력을 보다 확보해야 하는 상황이다. 차세대 AI칩인 블랙웰 수급과 대규모 AI클러스터의 효율성 확보가 필요하다. 컴퓨팅 통합 솔루션 기술 기업인 펭귄솔루션즈와 시너지를 내는 게 관건이다.

◇H200 내년 조기 도입 타진, '괴물칩' 블랙웰 수급은 오리무중

SKT는 현재 AIDC 사업을 본격화할 채비를 마쳤다. 선봉대 격인 가산 AIDC를 12월부터 가동한다. 이를 출발점으로 주요 지역 거점에 AIDC를 배치하고 인도네시아를 비롯한 아시아태평양(APAC) 시장 공략 계획도 가속화할 방침이다.

가산AIDC AI가속기 칩으로는 엔비디아 H100을 채용했다. H100은 엔비디아 GPU 메인 제품이다. 성능과 세대가 올해 출시된 H200엔 뒤진다. 이를 고려해 H200을 조기에 들여오는 방안을 추진 중이다. 공급 중간다리인 람다와 논의 중인 도입 시점은 내년 3월이다.

H200 조기 도입 타진은 AIDC GPU 성능 경쟁에서 앞서 나가겠다는 의지다. AIDC 고객사의 AI학습, 추론의 성과와 비용은 AIDC GPU 성능에 크게 좌우된다. 최신 세대, 차세대 GPU를 많이 그리고 빨리 확보할수록 양질의 서비스를 제공하고 유치 고객도 늘릴 수 있다.

내년 초 H200 조기 도입에 성공하면 경쟁사 대비 SKT의 AIDC GPU 성능 우위는 확실하다. 현재 국내 기업 중 H200을 중심으로 인프라를 구축한 곳은 전무하다. H100을 보유한 기업은 꽤 존재한다. 하지만 올해 양산을 시작했고 생산량도 제한적인 H200 수급엔 대부분 어려움을 겪는다.


SKT와 협력하는 람다는 엔비디아 주요 파트너사다. 탄탄한 관계를 감안하면 H200 조기 도입 난이도는 높지 않을 전망이다. 다만 H200 이후 차세대 AI칩 플랫폼인 블랙웰에선 이야기가 달라진다. GB200 등 블랙웰 칩이 제대로 양산되지 않았음에도 엄청난 사전 구매 수요를 보인 탓이다.

엔비디아는 블랙웰 관련해서는 특정 업체에 공급 우선권을 부여하지 않고 있다. 람다처럼 기존 엔비디아 칩 생태계에 속한 주요 파트너사도 블랙웰 칩 수급에는 어려움을 겪을 수 있다는 의미다. AIDC 사업의 글로벌화를 추진하는 SKT 입장에선 H200 도입 이후에도 람다와 함께 블랙웰 칩 수급 시점은 앞당기는 과제가 남았다.

◇AI클러스터 최적화 필요성 증가, 펭귄솔루션즈 협업 성과 주목

AIDC 사업에서 실적을 극대화하려면 최신 GPU 도입으로 고객 유치, 매출을 확대하는 것도 필요하지만 전반적인 비용을 낮추는 것도 중요하다. 특히 AIDC는 막대한 전력 소모, 지속적인 시스템 유지보수 비용이 크다. OPEX 부담이 상당한 셈이다.

SKT가 2억달러(약 3000억원)에 달하는 자금을 펭귄솔루션즈에 투자한 배경이다. SKT의 최근 AI 투자 중 가장 큰 금액이다. 그만큼 SKT가 AIDC 사업에서 펭귄솔루션즈의 역할과 중요성을 높게 평가한 셈이다.

펭귄솔루션즈는 기업용 컴퓨팅 통합 솔루션 기술 기업이다. AI·머신러닝 환경을 꾸리는 고객사에 고성능 통합 시스템 환경을 구축해 주는 첨단 컴퓨팅 사업이 주력이다. GPU로 이뤄진 AI클러스터와 서버, 랙 등의 최적화와 모니터링을 도맡고 시스템 오류 내성도 강화해 운영 효율성·안정성을 향상시킨다.

국내 AI스타트업 관계자는 “과거 구축된 기업 GPU 클러스터는 수백개~수천개 GPU로 이뤄졌지만 최근 대형 AI 클러스터는 GPU가 수만개”라며 “늘어난 GPU만큼 클러스터의 자원 낭비와 장애, 과열이 증가해 최대 성능과 비용 절감을 위해선 고도의 최적화 작업이 반드시 필요하다”고 설명했다.

SKT는 직접 개발한 LLM인 에이닷X를 학습시키면서 자체적인 AI클러스터 '타이탄'을 내부에 구축한 경험이 있다. 다만 타이탄 GPU 규모는 1000장 수준에 불과하다. 최근 글로벌 AIDC에서 설계된 대규모 AI 클러스터와 차이가 크다.

이와 달리 펭귄솔루션즈는 풍부한 대규모 클러스터 구축 경험을 지녔다. 지난해 미국 빅테크 메타의 리서치슈퍼클러스터(RSC)를 담당하기도 했다. SKT가 AIDC 컴퓨팅 효율화에서 부족한 부분을 펭귄솔루션즈와의 협업으로 어떻게 채우느냐가 향후 경쟁력을 좌우할 전망이다.