이 기사는 2025년 02월 14일 15시30분 thebell에 표출된 기사입니다

거대언어모델(LLM) 개발에는 수조원의 비용이 투입된다. KT 역시 LLM 기술 개발에 4조원을 투자한다고 공표한 바 있다. 지속적으로 AI를 학습시켜 모델을 고도화할수록 비용은 늘어난다. 이에 주어진 자원을 효율적으로 사용해 AI를 학습시키는 게 중요하다.

KT는 믿음을 개발하면서 래블업과 손잡았다. GPU 자원을 실시간으로 관리하며 AI 개발 비용을 최적화하는 '백엔드.AI' 솔루션을 제공하는 스타트업이다. 양사는 단순 협력을 넘어 태국 등 글로벌 시장 진출까지 협업 범위를 확대하며 시너지를 키우고 있다.

◇AI 기업 고민거리 '비용효율화'…KT도 마찬가지

KT는 자체 LLM 믿음을 개발하면서 래블업과 협업하기 시작했다. 래블업의 백엔드.AI를 활용해 GPU 자원을 효율적으로 관리하는 게 핵심이었다. 백엔드.AI는 딥러닝 전용 인프라 모니터링 관리 플랫폼이다. GPU 인프라를 가상화해 하나의 플랫폼에서 수천 개 이상의 GPU를 실시간으로 동시에 확인하고 관리할 수 있도록 지원한다.

LLM 개발에는 천문학적 비용이 필요하다. 운영 과정에서도 계속해서 GPU 자원을 사용하기 때문에 비용 절감이 무엇보다 중요한 키워드로 꼽힌다. 최소 비용으로 서비스를 개발했다는 딥시크가 세간의 주목을 받은 이유와도 일맥상통한다. 오픈AI마저도 챗GPT 운영비를 절감하기 위한 다양한 방안을 모색 중이다.


백엔드.AI는 KT가 선택한 비용 절감 방법 중 하나였던 것이다. 믿음 개발·운영 과정의 인프라 낭비를 최소화하는 동시에 생산성을 높이는 데 집중했다. 양사의 협력은 해외 시장으로도 이어졌다. KT가 진행 중인 태국 재스민 그룹과의 태국어 기반 거대 언어 모델(LLM) 개발 사업에 래블업도 참여했다.

일찍이 래블업 서비스의 성장 가능성을 본 래블업을 'KT 브릿지 오픈이노베이션' 프로그램 대상으로 선정했다. 당시 함께 선정한 기업은 리벨리온, 모레, 하이보, 엠투엠테크 등이었다. 역시 AI 분야에서 유망하다는 평가를 받는 스타트업들이다. KT는 이들에게 해외 전시회 참여, R&D 자금 지원 등을 제공하기로 했다.

성장을 지원하면서 AI 생태계도 확장하는 전략이다. 실제로 KT는 지난해 9월 래블업 등 10개 AI 기업과 함께 독일 베를린에서 열린 IFA 행사에 참여하며 글로벌 시장 진출을 지원했다.

◇대기업 러브콜 받는 래블업, KT와 장기 협업 이어가나

KT와 래블업는 장기적 협업 관계를 이어갈 것으로 관측된다. KT는 믿음을 활용해 B2B 수익을 내는 데 집중하고 있다. 고객사 사업 유형과 수요에 맞춰 소형언어모델(sLLM)으로 튜닝해 제공하는 식이다. 이 과정에서도 고객사별 데이터를 학습시켜야 하는데 래블업의 백엔드.AI를 활용해 비용을 절감할 수 있다.

KT 관계자는 "믿음 개발에 래블업의 솔루션을 사용 중이며 태국어 LLM 개발에도 협업 중"이라고 말했다. 이어 "다만 이외 협업 방식에 대해서는 아직 확정된 내용은 없다"라고 덧붙였다.


래블업은 KT 외에도 다양한 기업의 주목을 받고 있다. AI 시장 확대로 GPU 수요가 늘어나는 만큼 이를 효율적으로 관리해야 하는 기업들의 니즈도 커지고 있어서다. 경쟁사인 SK텔레콤도 래블업과 협업하고 있다.

래블업은 SKT가 구축한 'K-AI 얼라이언스'에 래블업이 페르소나AI, 코난테크놀로지 등과 함께 참여 중이다. SKT 연합에 참여한다고 해서 KT와의 협력에 영향이 있지는 않을 것으로 보인다.

SKT와 KT는 경쟁사임에도 국내 AI 산업 경쟁력 확보를 위해 유망 기업 육성 뜻을 모으고 있다. KT가 주주사였던 리벨리온과 SKT를 최대주주로 뒀던 사피온이 경쟁력 강화를 위해 합병한 사례도 있다.

래블업의 백엔드.AI 수요 증가는 실적으로도 이어졌다. 스타트업임에도 2020년부터 꾸준한 흑자를 기록 중이다. 2023년 래블업은 매출 68억원, 영업이익 32억원을 달성했다. 전년 매출 25억원, 영업이익 3억6500만원과 비교하면 1년 큰 폭 성장했다는 점을 알 수 있다. 특히 영업이익률이 47%에 달해 수익성도 챙겼다.