이 기사는 2025년 10월 31일 10:50 thebell 에 표출된 기사입니다.

인공지능(AI) 개발 작업이 진전될수록 그래픽처리장치(GPU) 같은 반도체 칩을 활용하는 비용이 큰 화두로 떠오르고 있다. 문제는 GPU 값이 매우 비싸다는 점이다. 많게는 수천대의 GPU 서버를 얼마나 효율적으로 활용하는지가 AI 모델 개발 비용과 속도를 결정짓는다.

업스테이지 컨소시엄에서 래블업은 GPU 인프라 운영 파트너로 활약하고 있다. 쉽게 말해 업스테이지의 모델이 실제 학습 및 추론 환경에서 원활히 돌아가도록 돕는 것이다. 스타트업인 업스테이지의 대규모 개발비용을 효율화하는 측면에서도 역할을 할 전망이다.

◇AI 모델 개발 속도 증대, 비용 부담 절감

래블업은 지난 2015년 설립됐다. 대규모언어모델(LLM)을 훈련하고 추론하려면 적게는 수백, 많게는 수만대의 GPU 혹은 전용 칩이 필요하다. 하지만 기업이 이를 효과적으로 사용하기 쉽지 않다. GPU의 가격이 갈수록 천정부지로 뛰는 상황에서 비용 부담도 가중된다.

래블업은 특정 AI 작업에 최대한 효율적으로 GPU를 할당하면 전반적인 인프라 비용을 줄일 수 있다는 것에 주목했다. 오랜 기간 연구개발(R&D)을 진행해 일찌감치 관련 문제 해결에 나섰고 지난 2017년 GPU 효율화 솔루션 '백엔드닷에이아이(Backend.AI)'를 공개했다.

백엔드닷에이아이는 GPU 자원을 쪼개 효율적으로 배분하는 가상화 기술에 기반한다. GPU 자원을 많이 사용해야 하는 팀에게는 크게 할당하고, 그렇지 않은 팀에는 적게 주는 것이다. 백엔드닷에이아이를 활용하면 AI 개발 과정에서 GPU 효율을 90% 이상 높일 수 있다.

글로벌 거대자본을 중심으로 AI 개발 경쟁이 심화하면서 GPU 분할 가상화 기술에 대한 관심이 높아지고 있다. 분할된 GPU를 통해 훈련 속도를 4배까지 높일 수 있기 때문에 초거대 모델 학습과 추론을 병행해야 하는 AI 프로젝트에서 필수적인 솔루션으로 주목된다.

래블업은 탄탄한 기술력을 바탕으로 활용 계정수 전세계 110여개 고객사를 확보했다. 지난해 래블업 매출액은 55억원, 영업이익은 10억원 수준이다. 래블업은 2019년 앤터프라이즈 솔루션 출시를 기점으로 수익화에 나선 이후 2020년 손익분기점(BEP)을 넘어섰다.

◇오픈소스 비전 공감대, AI 인프라 확장

래블업은 과학기술정보통신부가 추진하는 '글로벌 프런티어 파운데이션 모델' 개발 사업에서 업스테이지 컨소시엄에 합류했다. 업스테이지는 컨소시엄을 이뤄 신규 모델 '솔라 WBL'을 개발할 예정이다. 특히 한국어뿐만 아니라 영어, 일본어 등 다국어 지원을 제공한다.

업스테이지 컨소시엄 합류 배경은 '오픈소스 철학의 공감대'에서 비롯됐다. 래블업은 컨테이너 기반 AI 플랫폼을 오픈소스로 공개하며 연구자와 개발자 생태계를 지원해왔다. 업스테이지 또한 AI 모델 공개와 투명한 기술 공유를 지향한다는 점에서 방향성이 맞았다.

이번 프로젝트에서 래블업은 GPU 운영 효율화를 지원한다. 업스테이지의 모델이 실제 학습 및 추론 과정에서 원활하게 돌아가도록 백엔드 최적화를 수행하는 것이다. 실제 모델 훈련과 추론 과정에서 얻는 데이터를 통해 GPU 가상화 기술을 더 고도화할 예정이다.

현재 업스테이지가 개발 중인 솔라 WBL의 파라미터(매개변수) 규모는 1000억개(100B)이다. 래블업은 이 방대한 연산 환경을 안정적으로 통합 관리하기 위해 수천개의 스케줄러를 재작성해 오류를 줄이고, 동일 프로세스를 반복 검증하는 식으로 안정성을 높이고 있다.

래블업은 이번 프로젝트를 기점으로 GPU 가상화 기술 고도화 및 LLM 평가, 검증 등에서 협력을 이어 나갈 계획이다. 특히 폐쇄망 환경에서도 분산 딥러닝 훈련이 가능한 구조적 강점을 활용해 국가 단위의 AI 인프라 표준화와 상호운용성 확보를 이끌어갈 전망이다.