이 기사는 2023년 10월 31일 14:11 thebell 에 표출된 기사입니다.

KT가 연내 발표를 예고했던 초거대 AI모델 ‘믿음’을 정식 출시하고 기업형 AI 솔루션 시장 공략에 나선다. 파운데이션 모델 개방을 통해 자체 거대언어모델(LLM) 개발이 어려운 고객사 니즈를 공략하고, KT클라우드 등과 함께 연계 상품 제공에도 나선다. 토큰 중심의 AI모델 이용료 대신 B2B 시장에 맞춘 요금제를 설계하고, 이용 비용도 시장 대비 20~30% 수준 낮추겠다는 뜻도 밝혔다.

믿음의 개발을 주도했던 KT 융합기술원 AI2XL연구소에 따르면, 믿음에는 신뢰성 향상을 위한 자체 개발 기술이 도입됐다. 문서 내 다이어그램 등 도식을 이해해 성능을 끌어올리고, 현행 AI모델의 고질적 문제인 환각 (할루시네이션) 현상을 줄이는 솔루션 등이다. 이 밖에도 AI풀스택을 통해 추론, 전력 비용 등을 절감하는 등 효율성 제고에도 주의를 기울였다.

◇믿음 파운데이션 모델 개방, 자체 개발 부담 고객사 니즈 노린다

KT는 초거대 AI 모델인 믿음의 파운데이션 모델을 개방하기로 했다. 파운데이션 모델은 초거대 AI의 핵심 기반 모델을 말한다. 오픈 AI에서 개발한 자연어 처리 모델 GPT가 대표적인 예시다. 이를 이용하는 기업은 미세조정(파인 튜닝, FT)를 거쳐 목표하는 형태의 AI 응용서비스를 만들 수 있다.

초거대 AI의 파라미터 모델은 개발에만 최소 수십억원에 달하는 비용이 요구된다. 성능 고도화 작업을 위해 투입될 비용까지 고려하면 소요 자금이 수천억원에 달하기도 한다. KT는 초거대 AI 기반 서비스를 만들고 싶지만, 금전적인 문제 등에 부담을 느낀 고객사 니즈를 생각했다는 입장이다. 이를 위해 기존에 공개됐던 다른 파운데이션 모델과 달리 풀 파인 튜닝(FFT)이 가능하도록 했다.


최준기 KT AI빅데이터사업본부장 “B2B 시장에 우선 집중할 계획으로 기업 고객들이 LLM을 대중화할 수 있도록 할 것”이라며 “기업은 자체 데이터 기반의 AI 모델을 원하고, 개발·사용 과정의 진입 난이도와 솔루션 가격도 낮추길 바라는데, KT는 믿음스튜디오로 이를 겨냥한 서비스를 제공한다”고 설명했다.

KT는 출시 이전부터 금융권과 지자체 등 100개 이상 기업 및 기관과 믿음 활용을 놓고 사전 논의를 진행해왔다. 이외에도 업스테이지, 콴다, 에누마, 비아이매트릭스 등 협력 중인 스타트업과 기업용 B2B AI 사업모델 공동개발에 나선다. 기업전용 LLM 사업화부터 매스(Math)-GPT 등 교육, 업무 개인비서 등 다양한 시장을 공략한다. 이외에도 B2B 환경에 맞는 솔루션 요금 설계도 고려 중이다.

최 본부장은 “일부 고객사의 경우 현재 AI모델에서 일반적으로 쓰이는 토큰 단위 요금 부과에 부담을 느끼는 경우도 있다”며 “일정 수준 이상 사용하는 고객에게는 KT클라우드와 믿음을 함께 활용하게 해 가격 절감을 꾀하도록 하고, 솔루션 비용은 20~30% 저렴하게 제공할 수 있게 노력 중”이라고 말했다.

◇3개 자체 개발 기술로 신뢰성 높여, AI 풀스택 기반 비용 효율성도 추구

KT는 믿음 고도화를 위해 검색과 추론, 답변 등 AI 모델 동작 3단계의 신뢰성을 높이기 위해 3가지 기술을 개발해 신뢰성을 높였다. ‘다큐먼트 AI’와 ‘서치 AI’, ‘팩트가드 AI’로 문서 이해 기술부터 목표 도메인과 문서에 맞춘 검색 기능, 현재 AI모델 답변의 15~20%를 차지하는 환각 현상을 줄이는 솔루션 등이다.

배 소장은 “AI모델이 습득하는 문서는 쉽게 습득할 수 있는 텍스트 보다 다이어그램 등 도표가 많은데, 믿음은 단순 텍스트 중심의 정보 습득 외에도 도식 이해까지 커버리지를 넓히는 것을 내년까지로 목표 중”이라며 “특정 분야에 집중한 AI는 이외 영역에선 상대적으로 전문성이 떨어질 수 있는데, 서치AI를 통하면 미 적용 모델 대비 10~30% 향상된 정확도를 추구하는 것이 가능하다”고 설명했다.


KT는 이외에도 리벨리온 아톰(Atom), KT클라우드 상용 적용 등 AI 풀스택 기반으로 비용 면에서도 강점을 키웠다는 입장이다. 리벨리온의 아톰의 경우 AI언어 모델 분야에서 퀄컴, 엔비디아 동급 반도체 대비 1.4~2배 신속한 처리 속도를 가지고 있다. 리벨리온은 내년 아톰의 양산을 계획 중인 것으로 알려졌다.

배순민 KT 융합기술원 AI2XL연구소장은 “믿음은 KT의 AI 풀스택 역량을 활용해 학습, 추론 등에 소모되는 비용을 줄여 효율성을 높였다”며 “동일성능 GPU 인프라 대비 학습 비용을 27%, 프라이빗 경량 모델 기준 추론 비용을 86% 절감했으며, 아톰과 KT클라우드 적용으로 전력효율 6배·추론비용 50% 감소를 달성했다”고 설명했다.