이 기사는 2024년 09월 24일 07:51 thebell 에 표출된 기사입니다.

"인공지능하는 사람들은 겸허해야 합니다."

AI 의료 진단 1호 상장사 제이엘케이 김동민 대표와의 대화 중 인상에 남는 멘트였다. 김 대표는 일본 도쿄대 첨단연구센터(School of Frontier Sciences)를 거쳐 도쿄대 특임연구원을 지낸 머신러닝, 뇌과학 전문가다. 2019년부터 제이엘케이의 대표이사를 맡아 뇌졸중 관련 AI 솔루션의 시장 확대를 이끌고 있다.

뇌 과학자가 말하는 AI의 겸손이란 무엇일까. 겸양론은 인공지능의 불완전성에 뿌리를 대고 있다. 김 대표는 "인공지능의 알고리즘은 완벽을 지향하지만 세상에 100%는 없는 법"이라면서 "우리는 AI 솔루션을 기반으로 영상을 분석하는 테크다보니 AI의 분석 히스토리를 유저들에게 가시화하면서 진단을 돕는 데 주안점을 두고 있다"고 말했다.

AI 불완전성과 관련 최근 눈에 띄는 사례가 있다. 오픈AI에 이어 LLM(거대언어모델) 부문을 선도하고 있는 미국 스타트업 앤트로픽(Anthropic)은 자사의 생성형 챗봇 클로드(Claude AI)의 마인드 매핑 연구결과를 공개했다. 생성형 챗봇의 뇌 지도를 공개한 셈인데, 클로드에게 거짓말을 주입해서 응답 결과를 조정할 수 있다는 사실을 밝혀냈다. 칭찬을 지속적으로 하면 이와 연관된 특성이 활성화돼 과장된 응답을 이끌어 낼 수 있다는 얘기다. AI도 똑똑한 아이처럼 속는다.

언어모델과 특정 질병인 뇌졸중 진단 영역을 동일선상에서 빗대기는 힘들다. 하지만 AI 솔루션이 대량 데이터를 기반으로 돌출 변수를 깎아내고 깎아 내 정형화된 패턴을 축으로 한다는 점에서 동일한 리스크는 내재돼 있다. 이런 관점에서 AI 권위자 스튜어트 러셀(Stuart Russell) UC버클리대 교수의 '어시스턴트 게임' 론은 제이엘케이의 지향점과 잘 들어맞는다. AI가 특정 분야에서 뇌의 효율을 압도할 것은 자명한 일. 결론은 AI가 통제 불가능한 자율성을 발휘하지 않도록 인간의 가이드라인에 따라 움직여야 한다는 말이다.

제이엘케이는 뇌졸중 AI 진단 부문에서 세계 최다(13종) 솔루션을 보유한 기업이다. 초기 진단부터 입원-치료-퇴원-재활 등 전주기를 커버할 수 있다. 촌각을 다투는 뇌졸중 환자는 응급실에 도착하면 비조영 CT촬영, 혈관 CT 촬영, 시술/수술, MRI 촬영 등의 과정을 거치는데, 해당 과정에서 의사들은 수백장의 다이콤파일(흑백영상)을 보면서 판단을 내려야 한다.

자칫 미세한 대혈관 폐색 병변을 놓치면 환자가 사망에 이를 가능성이 크다. 이 과정에서 제이엘케이 AI솔루션은 파일을 수초 안에 분석 정량적 수치값, 컬러맵으로 제공하고 진단값의 논리 도출 과정도 상세하게 제공한다. 충실한 어시스턴트를 지향한다. 민감도(양성 판별), 특이도(음성 판별) 등도 세계 최고 수준이다. 국내 200곳 이상의 병원이 도입했다.

최근 AI 솔루션 기업 중 100%(완전성)를 공언하는 케이스가 왕왕 있다. 말그대로 인간의 두뇌를 대체할 수 있다는 오만이다. 조심스러운 말이지만 인간과 화합하지 못하는 테크는 필연적으로 사장된다. 인간은 두려움을 회피하면서 진화했고 이 DNA는 깊게 각인돼 있다. 제이엘케이는 미국 FDA, 일본 PMDA 승인에 도전, 글로벌 시장을 정면으로 겨누고 있다. 당신(유저)과 함께 가겠다는 겸손한 AI의 행보를 주목한다.