이 기사는 2025년 03월 19일 07시38분 thebell에 표출된 기사입니다

인공지능(AI) 활성화에 동반되는 윤리적 문제가 금융권의 새로운 숙제로 떠올랐다. AI가 서비스와 업무의 효율·고도화를 가속하는 촉매제인 동시에 정보 편향, 할루시네이션, 프라이버시 침해 등 새로운 리스크의 온상으로 지목되면서다.

전문가들은 윤리원칙이 지켜져야만 AI 혁신도 지속가능하다고 지적한다. 특히 금융권의 경우 그 중요성이 더욱 부각된다. 민감정보와 재산을 다루는 만큼 심각한 피해를 줄 수 있고 법적·사회적 책임 문제를 초래할 수 있기 때문이다.

금융당국은 이를 예방하기 위해 AI 가이드라인을 제시했다. 금융사가 자율적으로 AI윤리 실효성 등을 확보하도록 유도한다. 이에 맞춰 금융사는 원칙을 정의하고 윤리위원회를 구성하는 등 제각기 AI윤리 확보에 공을 들이는 모습이다.

◇AI윤리 부작용 방지에 사활…지침 가다듬는 금융당국

AI 부작용 우려가 커지면서 각국에선 평등한·착한 AI를 위한 윤리 규범 및 가이드라인을 정립해 왔다. 우리나라 역시 2020년 12월 과학기술정보통신부를 필두로 사람이 중심이 되는 'AI윤리기준'을 마련해 기술의 오남용·알고리즘에 의한 차별·프라이버시 침해 등의 문제를 해결하기 위해 노력 중이다.

시장 분석, 상품 추천, 신용 평가, 부당거래 탐지, 준법 감시 등 금융 업무의 고도화 과정에 AI가 활용됨에 따라 금융당국도 2021년 7월 AI 기반 금융 서비스 개발을 위한 'AI 가이드라인'을 발표했다. 금융이 국민 경제활동에 직접적인 영향을 미치므로 면밀하게 AI 기술을 접목해야 한다는 판단에서다.


금융분야 AI 가이드라인은 금융권의 AI 활성화를 위해 법적 규제나 행정지도에 비해 약한 규제 형식을 취한 것으로 '모범규준(Best Practice)'에 해당한다. 금융위원회는 AI 가이드라인을 통해 소비자 보호 측면에서 AI 운영에 대한 거버넌스 및 시스템 구축 등 최소한의 방향성을 제시하고 있다.

AI 가이드라인은 금융분야 AI 시스템의 개발, 사업화, 활용 등 전 과정에서 '신뢰성'을 높여 AI 활성화에 기여하는 것을 목적으로 한다. 이어 2022년과 2023년에 AI 신뢰성·공정성 확보, 위험관리 및 보안, 소비자 권리보장 등의 내용을 포함하는 개발·활용 안내서와 보안 가이드라인을 추가로 내놨다.

금융당국은 현재 3개의 가이드라인을 단일화한 '금융분야 AI 가이드라인'을 준비 중이다. 생성형 AI의 출현과 금융권 내부통제 강화 등 제도 변화에 따라 개정이 필요해졌기 때문이다. 통합 가이드라인에는 금융 AI 7대 원칙의 적용, 생성형 AI 관련 보안 위협과 보안성 검증 기준 등이 제시될 예정이다.

금융 AI 원칙은 최고경영자 및 경영진의 역할과 책임, AI의 보조수단성, 금융 안정성에 대한 위험의 최소화 등을 반영했다. 구체적인 내용은 올해 상반기 내 개정 이후 공개된다. 금융당국은 이를 통해 금융사의 AI 활용 시 불확실성을 상당 부분 해소하고 금융분야 AI의 신뢰도도 제고될 것이라고 본다.

◇금융권, AI윤리 확보 움직임 분주

금융사들은 금융당국의 가이드라인에 따라 적극적으로 AI윤리원칙과 기준을 정립하고 거버넌스 구축에 공을 들이고 있다. AI 거버넌스는 AI의 윤리적, 안전한, 책임있는 활용을 보장하기 위한 정책과 지침의 집합체다. AI 규제 대응전략의 핵심이자 AI윤리가 단순한 선언에 그치지 않도록 하는 실천 도구인 셈이다.

금융권에서 AI윤리원칙·기준을 가장 먼저 제정한 곳은 KB금융이다. KB금융은 AI윤리기준을 통해 AI 기술 도입과 운영, 통제·관리시 반드시 고려해야 가치로 △공정과 포용 △참여와 협력 △디지털 역량 △데이터 관리 △투명한 활용 △통제 가능성 △안전과 책임 등을 선정했다.

핵심 계열사인 KB국민은행은 윤리기준과 거버넌스를 뒷받침하는 최고의사결정 기구로 'AI윤리위원회'도 설치했다. AI윤리위원회는 고위험 서비스 승인, 윤리기준 및 위험관리 정책 수립 등 AI윤리적 활용을 위한 전략 수립 및 의사결정 등의 역할을 수행한다. AI윤리위원회가 설치된 곳은 KB국민은행이 유일하다.

AI 거버넌스 관리체계를 은행권 최초로 도입한 곳은 NH농협은행이다. 농협은행은 AI 거버넌스를 통해 공정성, 설명 가능성 등을 녹여내 AI서비스 위험 수준을 평가할 수 있도록 했다. 위험 수준이 높으면 엄격한 승인 절차를 지키게 하고 낮으면 완화된 방안을 적용하는 등 내부 통제 체계도 마련했다.

은행권뿐 아니라 여신전문금융업권과 보험업권 등에서도 윤리원칙을 마련하고 거버넌스 구축에 착수하는 등 AI윤리 확보에 한창이다. 특히 생성형 AI 보안대책 및 개인정보보호 사전 점검 프로세스 등 변화하는 정책과 시장에 대응하기 위한 AI 위험관리 고도화에 열을 올리고 있다.