"인공지능 기술 안정성 높인다" 금융 AI 가이드라인 연내 시행

3중 내부통제장치 마련 '책임성·정확성·공정성·권리보호' 4가지 핵심가치 구현
'AI 테스트베드' 구축 'AI 인프라 정비 방안' 3분기 내 발표할 예정
인공지능(AI·Artificial Intelligence) 서비스의 책임있는 운영을 위해 AI 윤리 원칙 마련, AI 조직 구성, 위험관리정책 수립의 3중 내부 통제장치가 마련된다. AI 개발·학습단계에서 질 좋은 데이터가 활용되도록 하고, 개인신용정보 오·남용이 없도록 정보보호도 강화할 예정이다.

금융위원회 도규상 부위원장은 8일 오후 제1차 '디지털금융협의회 데이터 분과회의'를 개최하고 이 같은 내용을 담은 '금융분야 AI 가이드라인'을 발표했다.

이날 도규상 부위원장은 AI 등 기술혁신이 금융의 질적 변화를 주도할 전망이지만, AI 기술의 안전성 등에 대한 사회적 신뢰가 충분하지 않다고 밝혔다.

도 부위원장은 "AI를 통해 비정형·비금융 데이터 활용이 활성화되면서 금융데이터가 부족한 금융소외계층을 포용할 수 있게 되고, 데이터 처리의 속도와 정확성이 제고되면서 금융거래 비용은 낮아지고 금융 중개기능의 효율성은 높아지고 있다"고 말했다.

그러면서도 "안전성 등에 대한 사회적 신뢰가 충분하지 않은 만큼, '금융분야 AI 가이드라인'을 통해 AI 금융서비스에 대한 사회적 신뢰를 공고히 하고 지속가능한 금융혁신 환경 조성 추진해야한다"고 덧붙였다.

이에 따라 'AI 가이드라인'에서는 ▲금융산업의 책임성 강조 ▲AI 학습용 데이터의 정확성·안전성 확보 ▲AI 금융서비스의 투명성·공정성 담보 ▲금융소비자 권리의 엄격한 보장 등 4가지 핵심가치를 구현하기로 했다.

이와 함께 금융위는 AI 기술혁신의 과실이 금융소비자에게 돌아갈 수 있도록 금융권의 지속적인 협조와 노력을 당부했다.

가이드라인에 따르면 AI를 금융거래 및 대고객서비스에 적용한 전 금융업권에 AI 서비스의 책임있는 운영을 위해 AI 윤리 원칙 마련, AI 조직 구성, 위험관리정책 수립의 3중 내부 통제장치가 마련된다.

비금융업이라도 AI 활용의 결과가 금융거래에 미치는 영향이 큰 경우 확대 적용된다. 신용평가회사의 개인신용평점 개발 등이 여기에 해당된다.

AI윤리 원칙으로 금융회사는 회사별 가치, AI 활용 상황(고객군·서비스 내용 등)등에 따라 AI 서비스 개발·운영시 준수해야 할 원칙·기준을 수립해야 한다. AI조직은 AI의 잠재적 위험을 평가·관리할 구성원의 역할·책임·권한을 서비스 전단계(기획·설계·운영·모니터링)에 걸쳐 구체적으로 정의했다.

위험관리는 AI 서비스 자체 평가·관리정책을 마련하고, 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리를 적용하며 세부적인 내용도 마련했다.

먼저 고위험AI의 경우 AI 의사결정이 개인의 신용평가, 대출심사, 보험심사, 카드발급 심사 등 금융거래 계약의 체결·유지에 중대한 영향을 가져오는 경우, 이에 대한 내부통제·승인절차 등을 마련하고 별도의 책임자를 지정한다.

AI가 사람의 의사결정과정을 대체하는 경우, 필요시 사람에 의한 AI시스템 감독·통제가 가능하도록 시스템을 설계한다. 이자율 산정 등 금융관련 중요 의사결정을 대체한 AI에 대해 결과의 설명 및 사후검증을 할 수 없다면 금융거래 투명성 및 신뢰성 저하가 발생하기 때문이다.

AI 개발·학습단계에서 질 좋은 데이터가 활용되도록 하고, 개인신용정보 오·남용이 없도록 정보보호도 강화된다. AI 학습에 사용되는 데이터의 출처·품질·편향성·최신성 등을 조사·검증하고 개선노력 지속하고, AI 개발 과정에서 개인신용정보 오·남용을 방지하고, 불필요한 개인신용정보 처리를 최소화하는 시스템 마련된다.

금융위는 "사생활정보 등 민감정보를 활용하고자 하는 경우, 비식별 조치 등 안전한 정보 활용을 위한 충분한 조치를 거친 뒤 해당 정보 미사용시 AI 시스템에 성능 저하가 발생하는지, 해당 정보 사용시 효과와 혜택을 보는 집단은 누구인지 등 정보활용 필요성을 면밀히 평가하고 재식별·유출 등 방지한다"고 설명했다.

AI 활용결과 불합리한 소비자 차별 등이 나타나지 않도록 서비스 특성별로 위험요인을 통제하고, 서비스 공정성을 제고한다.

은행이 대출부적격자를 걸러내기 위해 여신심사를 강화하는 경우 대출적격자(True)에 대한 여신이 거절(False)되는 경우도 증가하고 있는 만큼 AI 시스템 운영과정에서 나타날 수 있다는 다양한 위험요인을 서비스 특성에 맞게 합목적적으로 통제할 방침이다.

공정성도 제고된다. AI에 따른 집단간 차별 등 기본권 침해행위가 발생하지 않도록 서비스 특성별 공정성 기준을 설정·평가한다. 또 금융소외 계층에 대한 금융접근성 제고를 목적으로 한 정책금융상품 등 결과적 평등이 중요한 금융상품의 경우, 집단간 대출 승인율 등 인구통계적 동등성 지표를 기준으로 공정성 평가한다.

AI 서비스 외부위탁 개발·운영시에도 금융회사가 직접 개발·운영할 때와 똑같이 안전한 개발·운영이 가능하도록 할 예정이다. 외부기관에 대한 AI시스템 개발·운영 위탁시 수탁기관이 준수하여야 할 위험관리지침을 마련하고, 주기적 보고·점검한다. AI 서비스로 인한 소비자 피해 발생시 조속한 피해구제가 가능하도록 명확한 손해배상 처리 절차 등을 마련한다.

금융위는 금융권의 내실있는 '금융분야 AI 가이드라인' 이행을 위해 충분한 준비기간을 거쳐 가이드라인이 연내 시행되도록 할 계획이다.

금융위는 "가이드라인은 AI 활용 활성화를 위해 AI서비스 신뢰제고에 필요한 필요최소한의 준칙을 제시하는데 초점을 맞췄다"고 밝혔다.

이어 "AI 서비스 개발·운영 과정에서의 규제 불확실성 등을 해소하기 위해서는 업권·기능·서비스 특성 등을 고려한 보다 구체적 행위지침이 필요하다는 금융권 실무자들의 의견이 있었다"며 "이에 금융업권협회 등을 중심으로 실무지침 제정반을 구성·운영하여 3분기 내 실무지침을 마련할 예정"이라고 덧붙였다.

금융권의 AI 활용을 촉진·지원하기 위한 'AI 인프라 정비 방안'도 Working Group 논의 등을 거쳐 3분기 중 발표할 계획이다. AI 개발 데이터를 제공하는 '데이터 인프라(Data Library)'와 소규모 핀테크 회사 등도 손쉽게 AI 서비스를 개발하고 검증할 수 있도록 지원하는 'AI 테스트베드' 등이 구축될 예정이다.

이윤형기자 ybro@dt.co.kr