이 기사는 2025년 03월 20일 07시41분 thebell에 표출된 기사입니다

KB국민은행은 인공지능(AI)윤리 확보 측면에서 선도적인 위치에 있다. KB금융그룹 차원에서 제정한 'AI윤리기준'을 바탕으로 인공지능 관련 업무규정 제정, 위험관리정책 마련, 전담 조직 설치 등 AI 기술의 윤리적 활용 및 신뢰성 확보 문제에 발 빠르게 대응 중이다.

'AI윤리위원회'도 가장 먼저 설치했다. AI윤리위는 AI 거버넌스 원칙을 뒷받침하는 최고의사결정 기구다. 조영서 AI·DT추진그룹 대표(부행장, 지주겸직)를 필두로 5명의 위원으로 구성됐다. 고위험 서비스 승인, 윤리기준 및 위험관리 정책 등 전략 수립과 의사결정 역할을 한다.

◇4대 원칙 담은 거버넌스 수립

국민은행은 최근 혁신과 신뢰의 균형점을 지키기 위한 AI 거버넌스를 수립했다. AI 거버넌스는 AI의 윤리적, 안전한, 책임있는 활용을 보장하기 위한 정책과 지침의 집합체다. AI 규제 대응전략의 핵심이자 AI윤리가 단순한 선언에 그치지 않도록 하는 실행 장치다.

국민은행의 AI 거버넌스는 AI윤리기준 및 조직문화, 위험평가 프레임워크, 생애주기별 위험관리정책, 금융소비자 보호 등 4가지 핵심요소로 구성됐다. AI 기술이 활용되는 모든 과정에서 신뢰성과 투명성을 확보하는 것이 주요 목표다.

AI윤리기준은 KB금융의 지침을 바탕으로 △공정과 포용 △참여와 협력 △디지털 역량을 제시하고 있다. AI 운영 시 필요한 윤리가치로는 △데이터 관리 △투명한 활용을 꼽았다. AI 통제·관리 윤리가치는 △통제 가능성 △안전과 책임 등을 선정했다.

위험평가 프레임워크는 AI 서비스가 가진 잠재 위험을 사전에 식별하고 관리하는 체계를 의미한다. AI서비스의 위험등급을 4단계(허용불가, 고·중·저위험)로 분류해 높은 위험 등급으로 분류된 AI 서비스는 더욱 강화된 관리방안을 적용한다.

여기에 생애주기를 반영한 위험관리 프로세스를 더해 AI 서비스 모든 단계에서 AI윤리를 고려하도록 했다. 초기 위험요소 검토부터 데이터 신뢰성 및 편향 점검, 모델 성능·공정성 평가, 정기 모니터링 및 개선에 이르기까지 안전하고 윤리적인 AI 서비스 구현 원칙이 적용된다.

◇AI윤리위 가동…위원장에 조영서 부행장

AI 거버넌스를 수립하면서 이를 뒷받침하는 최고의사결정 기구 AI윤리위도 가동하기 시작했다. 윤리위는 고위험 서비스 승인, 윤리기준 및 위험관리 정책 수립 등 인공지능의 윤리적 활용을 위한 전략 수립 및 의사결정 등의 역할을 수행한다.

앞서 금융위원회는 금융분야 AI 가이드라인을 통해 조직이 추구하는 가치와 주된 AI 활용 맥락 등을 고려해 AI 활용에 관한 윤리원칙과 기준을 수립하게 했다. 또 기준에 맞는 조직 관리를 위해 AI윤리위를 별도로 설치할 수 있도록 했다. 다만 강제 규정은 아니다.


위원장은 디지털금융 분야 최고 전문가 조영서 부행장이다. 재정경제원(현 기획재정부) 관료 출신으로 맥킨지, 베인앤드컴퍼니 등에서 약 17년간 금융사 디지털 혁신과 성장 전략 수립에 기여했다. 당시 국민-주택은행 합병, 신한은행 디지털 전략수립, 초기 인터넷전문은행 사업모델 설계 등 굵직한 프로젝트를 주도했다.

이후 당시 조용병 신한금융그룹 회장의 러브콜을 받아 신한금융에 합류했다. 신한금융에서 디지털 전략 본부장과 신한DS부사장을 거쳐 KB금융으로 자리를 옮겼다. 현재 조 부행장은 KB금융그룹 전체의 AI·DT 전략을 총괄하는 AI·DT추진그룹을 이끌고 있다.

조 부행장을 비롯해 위원회는 박영세 소비자보호그룹 대표(부행장, 지주겸직), 박영진 리스크관리그룹 대표(상무), 박정호 테크인프라본부장(본부본부장), 이재용 정보보호본부장(상무) 등 총 5명의 위원으로 구성됐다. 인적 구성에서도 기술과 위험관리, 소비자보호 등 다방면이 고려됐다.