이 기사는 2025년 04월 02일 15시24분 thebell에 표출된 기사입니다

NH농협은행은 인공지능(AI) 활성화에 따른 윤리적 문제에 가장 철저히 대비하고 있다. AI 윤리 리스크 관리·방지 체계는 금융권 최고 수준으로 평가된다. 금융당국이 가이드라인을 통해 모범규준(Best Practice)으로 제시하고 수준을 뛰어넘은 상태다.

농협은행은 금융당국의 규제에 앞서 AI 거버넌스 체계를 수립해 운영하고 있다. AI 거버넌스는 크게 위험 수준 평가, 개발 및 운영 사항, 교육으로 나뉘어 관리·적용된다. 이를 뒷받침하는 의사결정기구인 '협의회'도 구성을 마치고 역할을 수행 중이다.

◇은행권 첫 AI 거버넌스 확립

농협은행의 AI 활용 중점은 윤리·규제 준수를 최우선으로 고려하는 '책임 있는 AI 구현'이다. 은행권에서 처음으로 AI 거버넌스 관리 체계 구축에 나선 것도 책임 있는 AI 구현을 실현하기 위해서다.

AI 거버넌스는 AI의 윤리적, 안전한, 책임 있는 활용을 보장하기 위한 정책과 지침의 집합체다. AI의 설계부터 배포까지 전 과정을 관리하는 프레임워크로 AI규제 대응전략의 핵심이라고 할 수 있다.


앞서 농협은행은 삼성SDS, 법무법인 태평양, PwC 컨설팅 등과의 컨설팅을 거쳐 AI 거버넌스 구축을 위한 기반을 확립했다. 금융당국의 AI 가이드라인과 개발·활용 안내서에 따라 구체적 매뉴얼을 만들어냈다.

이를 통해 구축한 농협은행 AI 거버넌스는 AI 기반 서비스에 대한 고객 신뢰를 높이기 위해 AI윤리원칙과 AI 거버넌스 업무 운영에 관한 사항을 규정한다. 이는 서비스 및 시스템의 개발과 운영 전 과정에 적용된다.

관리 업무는 크게 위험 수준 평가, 개발 및 운영사항, AI 거버넌스 교육 등으로 나뉘어 이뤄진다. 먼저 '위험 수준 평가'는 소비자에 미치는 영향과 위험 요소를 고려해 서비스 위험도를 평가하고 내부통제 절차를 마련하도록 한다.

개발 및 운영사항은 AI 거버넌스 핵심 속성을 고려해 AI 서비스와 시스템의 개발·운영 업무에 있어 기획·설계, 개발, 평가·검증 및 도입·운영·모니터링 등 단계별 준수사항을 마련하는 과정을 의미한다.

AI 거버넌스 관리 체계, 개발·운영 준수사항 등 AI 거버넌스 관련 교육도 시행되며 AI 책임 문화 확산을 위한 AI 윤리원칙도 담겼다. 농협은행의 AI 윤리원칙은 △농업인과 고객의 행복 △개인정보 보호와 보안 중시 △다양한 가치 존중 △투명성과 신뢰 △책임과 안전 등이다.

농협은행 관계자는 "AI 거버넌스 관리 체계를 바탕으로 AI 기술 기반 서비스에 대한 법적, 윤리적 리스크를 체계적으로 관리하고 있으며 임직원 교육을 통해 올바른 AI 활용 문화 정착에 앞장서고 있다"고 설명했다.

◇협의회 구성…수장은 AI 거버넌스 최고책임자 최운재 부행장

AI 거버넌스를 운영하는 조직은 전행 AI 사업을 총괄하는 디지털전략사업부 내 AI 비즈니스센터(AI전략팀, AI플랫폼팀)와 IT기획부(신기술융합팀)다. 연구와 신기술 시범 도입, 업무 적용을 위한 전략 수립·실행도 이곳이 맡는다.


실무 조직뿐 아니라 AI 거버넌스를 뒷받침하는 최고의사결정기구 'AI 거버넌스 협의회'도 설립했다. 협의회 위원장은 농협은행 AI 거버넌스 최고책임자인 최운재 디지털전략사업부문 부행장이다. 중앙회에서 디지털혁신실장, 기획실장 등을 지내고 농협은행에 재합류했다.

최 부행장을 중심으로 거버넌스, 데이터, IT기획, 고객정보보호, 정보보안, 소비자보호 등 유관 부서 담당부서장(부장급)들이 AI 거버넌스 협의회 위원으로 참여하고 있다. 이들은 AI 거버넌스 관련 의사결정과 전행 차원 이슈를 협의하는 임무를 수행한다.

구체적으로 AI 거버넌스 정책 및 과제에 관한 사항과 신규 고위험 AI 서비스에 대한 운영 승인에 관한 사항을 심의·의결하고 있다. AI 거버넌스 운영 실태의 점검 결과와 신규 중·저위험 AI 서비스 개발·운영 준수사항 이행 결과의 보고도 주요 기능 중 하나다.