이 기사는 2024년 09월 24일 13:45 thebell 에 표출된 기사입니다.

"인공지능(AI)이 보다 확산하려면 할루시네이션(환각 현상)이나 비윤리적인 부분 등에 대한 검증이 필요하다. 소프트웨어(SW)의 에러, 문제점을 찾는 것처럼, AI 모델을 테스트하고 정량적으로 평가하는 것이 필요하다."

슈어소프트테크(이하 슈어소프트)가 미래 성장 동력으로 인공지능(AI)을 낙점했다. 자사 제품에 AI 기술을 내재화하는 동시에 기존의 소프트웨어(SW) 검증 사업 모델을 AI로 확장한다는 전략이다. 공공기관이나 발전시설 등에서도 생성형 AI를 도입하기 시작하면서 신뢰도 확보가 주요 과제로 떠오른 가운데 '미션 크리티컬한 AI'에 대한 검증에서도 주도권을 쥐겠다는 전략이다.

슈어소프트의 AI 전략은 '테스트 by AI'와 '테스트 of AI'로 구분된다. 이중 테스트 by AI는 자동차나 항공우주, 에너지, 국방기술 등 분야의 SW를 확인·검증(Verification&Validation, V&V)하는 기존 사업 모델에 AI를 더해 품질을 높이는 것을 골자로 한다.


배현섭(사진) 슈어소프트 대표는 "위기와 기회는 한 끗 차이"라며 "기존 검증 솔루션에 AI 기술을 적용해 한층 기능을 고도화했다. 문제를 잡아내는 것에 그치지 않고, 어떻게 고치면 될지 알려주는 등 사람의 개입이 필요했던 것을 AI로 대체하면서 성과를 내는 중이다. 앞으로도 기능을 더해나갈 것"이라고 말했다.

또 산업 특성상 AI가 슈어소프트의 역할을 완전히 대체하기는 어렵다. 약간의 오류도 큰 문제로 이어질 수 있는 산업 특성상 이중·삼중의 검증이 불가피하다. 생성형 AI가 코드를 대신 작성 해주거나, 작성된 코드를 리뷰하더라도 슈어소프트와 같은 전문 조직의 추가 검증이 이뤄져야 한다. 배 대표는 "오히려 AI가 작성한 코드까지, 검증 수요는 더 늘어날 것"이라고 전했다.

기존 사업에 AI를 덧입히는 테스트 by AI와 달리 테스트 of AI는 완전히 새로운 사업 모델이다. 갖가지 AI 모델이 쏟아지고 있는 상황에서 신뢰할 수 있는 AI인지를 판단하기 위한 검증 도구 '베리파이-엠(Verifai-M)'이 핵심이다. '챗GPT'와 같이 기업에서 제공하는 상용 AI를 곧바로 이용하는 일반 대중과 달리 폐쇄형 AI를 구축해 사용하는 기업·기관의 특성을 겨냥했다.

베리파이-엠은 AI의 정확성, 국제 표준에 부합하는지, 입력한 데이터에 대해 AI 모델의 뉴런이 얼마나 활성화되는지 등을 살핀다. 가령 자동차에 적용될 AI를 테스트할 때는 의도적으로 잘못된 데이터를 입력한 상황에서 주변을 잘 인식하는지를 평가한다.


배 대표는 "이미 만들어진 AI를 사용한다면 문제가 생길 경우 제작자에게 책임을 물을 수 있다. 하지만 자체적으로 AI를 구축하고 거기서 문제가 생긴다면 구축자가 책임을 져야 한다. AI 모델을 보다 꼼꼼하게 검증할 수밖에 없는 이유"라며 "최근 AI 검증 솔루션을 출시했고 국내 주요 대기업과 통신사 등과 논의를 이어가고 있다"고 밝혔다.

기업·기관의 AI 도입이 확산될수록 슈어소프트의 AI 모델 검증 사업도 수혜를 누릴 전망이다. 특히 안전이 무엇보다 중요한 교통, 에너지, 국방 등이 주목된다. 에너지 분야에서는 최근 한국남부발전이 국내 첫 대형 생성형 AI 도입 계약을 체결하는 등 올해부터 본격적인 사업이 전개되고 있는 만큼 슈어소프트의 신규 사업에도 탄력이 붙을 것으로 전망된다.

슈어소프트는 AI 기술력 강화를 위해 지난해 빅데이터 기업 모비젠을 인수하기도 했다. 각사의 기술 노하우를 공유해 시너지를 내겠다는 취지다. 슈어소프트의 경우 임베디드 SW 기술력과 자동차, 에너지, 국방 등 분야에서 두각을 드러내는 반면 모비젠은 공공사업에 특화됐다. 기술 교류에 그치지 않고 슈어소프트의 공공사업 강화, 모비젠의 임베디드 SW 시장 진출 등 사업 대상 확장도 꾀할 계획이다.

배 대표는 "미션 크리티컬한 영역의 안전이 최우선 가치인 만큼 신기술을 받아들이는 것이 조심스러울 수밖에 없다. 하지만 언젠가는 빅데이터, AI를 받아들일 수밖에 없다. 이때 슈어소프트와 모비젠의 결합이 빛을 발할 것"이라고 피력했다.

그는 "본격화될 AI 시대에 대비한 준비는 꾸준히 해왔다. 온디바이스 AI 등 점차 확산될 시장에 대한 준비도 차근차근 진행 중"이라며 "미션 크리티컬한 SW 검증에서 가장 잘하는 기업을 넘어, 미션 크리티컬한 AI 검증도 가장 잘하는 기업이 될 수 있도록 최선을 다하겠다"고 부연했다.