이 기사는 2023년 04월 18일 14:43 thebell 에 표출된 기사입니다.

"여러분이 넥스트 디지털전환(DT)을 KT클라우드의 인공지능(AI), 클라우드, 인터넷데이터센터(IDC) 서비스와 함께 이뤄나가도록 하겠다."

윤동식 KT클라우드 대표이사(사진)는 회사 출범 1주년을 맞아 개최한 'KT 클라우드 서밋 2023'에서 이같이 말했다. 막대한 투자 비용과 전력 소모는 초거대 AI 시대 패러다임 전환의 걸림돌로 꼽힌다. KT클라우드는 신경망처리장치(NPU) 칩에 인프라를 얹고 사용한 만큼만 비용을 청구하는 종량제 솔루션으로 문제 해결에 나섰다. 산업별 특성을 살린 고객 맞춤형 솔루션도 제공한다.

12년간 고객의 피드백을 통해 발전시켜온 클라우드 역량과 더불어 KT의 초거대 AI '믿음(MI:DEUM)', 리벨리온의 NPU 칩 '아톰(ATOM)', 모레의 AI 소프트웨어까지 풀 스택(Full-stack)으로 서비스를 제공한다는 점에서도 강점을 갖고 있다.

◇AI 기반 디지털 혁신·IT 서비스 안정성 고심 기업 대상 솔루션 제공

윤 대표는 'Your Next DX journey with AI, Cloud, IDC'를 주제로 KT 클라우드 서밋 2023 행사에서 기조연설을 진행했다. 그는 AI 기반 디지털 혁신과 IT 서비스 안정성을 가장 중요한 포인트로 짚었다.

우선 작년 11월 오픈AI가 챗GPT를 공개한 이후 마이크로소프트, 구글, 메타 등 글로벌 빅테크들이 초거대 AI 관련 서비스를 경쟁적으로 내놓고 있다. 국내에서도 KT의 믿음은 물론 네이버 하이퍼클로바, 카카오 코지피티(KoGPT), LG 엑사원(EXAONE) 등 AI 연구개발에 박차를 가하고 있다. 하지만 이처럼 AI 연구에 충분히 투자할 수 있는 기업들은 손에 꼽는 게 현실이다.

다른 한축으로 IT 인프라의 안정성도 빼놓을 수 없다. 지난해 SK㈜ C&C 데이터센터 화재로 카카오 서비스가 먹통이 된 게 대표적이다. 재해복구(DR, Disaster Recovery)가 화두로 떠올랐지만 회사가 영업이익을 훼손하면서까지 DR에 투자하는지 고심이 깊어졌다.

이에 KT클라우드는 세 가지 방향성을 제시했다. 우선 AI 인프라 비용 장벽을 해소하고 신규 비즈니스를 위한 하이퍼스케일 AI(Hyperscale AI)다.

윤 대표는 "글로벌 빅테크가 물량 공세로 1750억개 파라미터(매개변수)로 데이터를 학습시키고 있다"며 "그만한 돈이 없는 기업들과 디지털 격차가 발생하는 만큼 학습 비용을 혁신적으로 줄여야 진정한 AI 시대가 올 것"이라고 설명했다. 전력 소모도 상당하고 AI 서비스를 할 때 필요한 GPU 서버를 얼마나 구축해야 할지도 알 수 없어 기업들의 진입 장벽이 높다는 점도 문제다.

이에 KT클라우드는 온디맨드로 원하는 양만큼 학습시킬 수 있도록 해 문제를 해결했다. AI 챗봇 '이루다'를 운영하는 스캐터랩의 경우 KT클라우드의 HAC(Hyperscale AI Computing)를 통해 동시에 96장, 130억개의 파라미터로 데이터를 학습시켜 조만간 서비스를 출시할 예정이다. 이를 통해 전체 비용을 최대 5분의 1 수준으로 절감할 수 있었다.

여기에 긴밀한 파트너십을 구축한 리벨리온의 NPU 칩을 인프라에 얹을 수 있도록 준비하고 있다. 현재 아톰 칩은 제작이 완료됐고 이르면 내달 말 KT클라우드에서 여기 인프라를 얹을 수 있을 전망이다.

윤 대표는 두 번째 요소로 고객 맞춤형 클라우드를 내세웠다. 고객의 니즈에 따라 커스터마이징한 클라우드를 선보이고 있다. 현재 디지털 플랫폼 정부 컨설팅을 진행하면서 퍼블릭 클라우드를 발전시키고 있다. 아울러 은행, 증권, 보험사 등 금융 부문과 산업별 요구 사항이 다른 엔터프라이즈 부문 서비스를 만들고 있다.

끝으로 비상상황에 대비해 회복력 있는 인프라(Resilient Infra)를 갖추는 게 중요하다고 봤다. IDC를 지리적으로 분산시키거나 설비를 이중화·이원화하는 등 DR 전략을 수립해야 한다는 것이다.

◇AICC, 상담 등 실제 서비스에 접목되는 AI 기반에는 클라우드

모회사인 KT도 AI 역량을 고도화해 여기 힘을 싣고 있다. 이미 5년 전부터 초거대 언어 모델(LLM) 연구에 돌입했고 데이터에 내포된 오류를 자체 필터링하기 어려운 딥러닝의 한계를 극복하기 위해 노력해 왔다.

배순민 KT 융합기술원 AI2XL연구소 소장(사진)은 이날 행사 기조연설을 통해 "디지코(디지털 플랫폼 기업)를 선언한 지 벌써 3년이 지났고 AI와 클라우드가 그 중심에 있다"며 "KT의 초거대 AI도 클라우드가 있었기에 만들 수 있었고 AMD, 엔비디아나 다른 스타트업과 협력해 사업을 풀어나가고 있다"고 말했다.

대화 요약 및 생성은 KT가 이미 서비스에 반영하고 있거나 조만간 도입할 예정이다. 가령 컨택센터에 기존 상담원이 요약 정리하는 시간이 통화를 하는 데 걸리는 시간(3~5분)과 맞먹었다. 하지만 AI를 결합한 AICC를 도입하면서 자동으로 통화 내용을 요약하는데 그 중 80%는 수정이 필요 없을 정도로 기술이 고도화됐다.

여기에 지니TV 음성대화 기능을 활용한 AI 상담원 'AI 오은영'도 곧 선보인다. 고객의 고민에 공감하고 오은영 박사의 상담 데이터를 기반으로 육아 상담을 한다. 여기에 오 박사의 목소리를 실시간으로 합성해 들려주면서 개성까지 살렸다. 지난달 오픈 베타를 시작한 KT의 메타버스 '지니버스'에도 개성을 갖고 공감을 해주거나 지적 대화가 가능한 NPC를 도입하려 한다.

배 소장은 "AI 인프라스트럭쳐(파두, 리벨리온, AMD)-프레임워크(믿음 렛츠, 모레)-API(지니랩스)-애플리케이션(AICC, 기가지니, 에듀 플랫폼) 어느 것 하나 소홀히 할 수 없다"며 "KT클라우드도 많은 국내외 기업들과 인프라를 내재화해 국가 경쟁력을 키울 방안을 고민하고 있다"고 밝혔다.