이 기사는 2024년 06월 20일 16시34분 thebell에 표출된 기사입니다

검색 소프트웨어(SW)를 핵심 비즈니스로 삼고 있던 코난테크놀로지는 2022년 7월 코스닥 상장 이후 생성형 인공지능(AI)에 집중해왔다. 지난해 8월 자체 개발한 대규모언어모델(LLM) '코난 LLM'을 최초로 공개한 이후 다양한 수의 매개변수(파라미터)를 지닌 모델들을 잇따라 출시했다.

최초로 공개한 LLM의 매개변수(파라미터)는 131억개다. 엔비디아의 그래픽처리장치(GPU) 'H100'을 이용해 학습했다. 코난테크놀로지가 2007년부터 제공해 온 AI 분석 서비스 '펄스케이' 등을 통해 확보한 250억건의 데이터가 바탕이 됐다. 이후 매개변수 410억개 모델을 출시했고 최근 온디바이스용 매개변수 40억개 모델을 새롭게 발표했다.

매개변수의 숫자가 다른 여러 모델을 개발한 데는 규모별로 고유한 시장이 존재하기 때문이다. '챗GPT' 등장 초기만 하더라도 매개변수가 많은 LLM에 시선이 집중됐다. 매개변수가 많을수록 성능이 향상되는 LLM의 특성상 수천억개 이상 매개변수를 지닌 LLM이 각광받았다. 업계를 평정한 오픈AI의 'GPT-3'은 매개변수가 1750억개다. 이후 출시된 'GPT-3.5'와 'GPT-4' 등의 매개변수는 공개되지 않았지만 수천억개 이상일 것으로 추정된다.

최근에는 양상이 바뀌고 있다. 성능을 일부 포기하더라도 매개변수의 수를 줄인 소형언어모델(SLM)이 주목받기 시작했다. LLM과 SLM에 대한 엄격한 구분은 없지만 업계에서는 매개변수 300억개를 경계선으로 그 이상은 LLM, 그 이하는 SLM이라고 분류하곤 한다. 코난 LLM은 40억개, 131억개, 410억개 등 모델로 LLM과 SLM을 모두 갖췄다.

코난테크놀로지를 비롯해 숱한 AI 기업들이 '매개변수 다이어트'에 나선 것은 효율성 때문이다. 매개변수의 수가 많아질수록 AI 학습을 위한 시간, 비용도 덩달아 커진다. 또 매개변수가 많아진다고 해서 성능이 무한정 높아진다고 보기도 어렵다.

온디바이스AI의 등장이 이런 흐름을 가속화했다. 매개변수가 많은 LLM은 연산을 위해 고성능의 GPU가 필요하다. 인터넷 연결이 필수적이라는 의미다. 하지만 연초 CES2024에서 삼성전자가 인터넷 연결 없이 스마트폰에서 동작하는 것을 시연했고, 이후 SLM에 대한 관심이 커졌다.

코난테크놀로지는 다양한 라인업의 모델을 바탕으로 수요에 따라 기술을 공급하고 있다. 최근 출시한 매개변수 40억개 모델은 낮은 성능의 기기에서도 AI를 이용할 수 있도록 설계됐다. 음성을 인식해 문자로 변환(Speech to text)하고 이를 번역한 뒤 다시 음성으로 변환(Text to speech)하는 방식으로 음성인식과 번역, 음성합성 등의 기술이 이용됐다.


전통적인 LLM의 경우 챗봇을 비롯해 기업용 시스템 전반에 활용될 전망이다. 코난테크놀로지가 주력하고 있는 AI 기반 컨택센터(AICC) 사업이 예다. 내부 시스템과 연계해 전화, 문자, 채팅, 이메일 등으로 상담 요청이 접수될 때 AI가 자동으로 내용을 정리하고 필요에 따라 상담원을 돕는 형태로 동작한다.

SLM의 경우 스마트폰을 비롯해 카메라, 드론, 웨어러블기기, 가전제품 등에 활용될 수 있다. 지난 14일 삼성전자의 스마트폰 '갤럭시S24'에서 동작하는 데모 영상을 공개한 바 있다. 자체적으로 AI 기술을 개발할 수 있는 경우가 아니라면 코난테크놀로지와 같은 전문 기업의 기술을 이용해 AI 기능을 탑재하게 될 전망이다.

코난테크놀로지 관계자는 "현재 코난 LLM은 다양한 매개변수 라인업을 고루 갖춰 AI 도입을 필요로 하는 여러 수요에 대응하고 있다"며 "대규모 LLM을 단일 공급하거나 복수의 SLM을 조합하는 것을 제안하는 등 방식은 다양하다"고 말했다. 이어서 그는 "이는 앞서 장비 투자가 선행됐기에 가능한 일"이라며 "행정안전부 AI 행정지원 서비스 시범 개발 사업 등 여러 사업을 통해 경쟁력을 입증했다"고 부연했다.