AI 윤리란 사람이 중심이 되는 AI를 구현하기 위해 모든 사회 구성원이 AI와 관련해 지켜야 할 가치를 말한다. 지난 2023년 '인공지능경영시스템 인증(ISO/IEC 42001)'을 획득한 카뱅은 지난해 'AI 거버넌스(지배구조)'를 본격 운영하기 시작했다.
이를 위해 카뱅은 올해 'AI 거버넌스 2.0' 프로젝트를 추진하고 있다. 'AI 거버넌스 2.0'이란 AI 거너버넌스 체계를 정교화하고 확장하기 위한 전략적 과제다. △컴플라이언스(금융분야 AI 가이드라인 개정 및 AI 기본법 시행 대응) △정책(AI 거버넌스 대상 범위 확대 추진) △조직(AI 윤리 관련 조직 추가 신설 검토) △프로세스(AI 생애주기 준수절차 개선) 등 핵심 영역별 실행 과제를 도출할 계획이다.
기술 측면에서도 AI의 투명성과 신뢰성 강화를 위한 작업을 하고 있다. 카뱅은 'XAI(설명가능 인공지능)' 기술을 FDS(이상거래탐지) 등 내부 분석 시스템에 적용하고 있다. 'XAI'란 AI가 도출한 특정 결과의 작동 원리와 판단 근거를 사용자에게 명확히 제시하는 기술이다. 이를 통해 AI 기반 업무의 정확성을 높일 수 있다. 카이스트 '설명가능 인공지능센터(XAIC)'와 산학협력을 맺고 XAI 알고리즘을 상호 발전시키고 있다.
카뱅은 LLM(대규모언어모델) 성능 평가 체계 'DUO'도 운영하고 있다. 'DUO'를 활용하면 다양한 LLM 가운데 금융 대화 역량, 계산 능력 등 카카오뱅크에 필요한 모델을 신속하고 정확하게 평가할 수 있다. 윤리·안전성, 진실성 기준에 따라 편향성과 환각 가능성 등도 점검할 수 있다.
앞으로도 카뱅은 제도적 기반과 기술적 실행력을 지속적으로 강화해 금융 소비자가 안심하고 AI 기반 서비스를 이용할 수 있는 환경을 조성할 계획이다.
카뱅 관계자는 "AI 윤리는 기술 발전과 함께 반드시 동반돼야 하는 필수 요소이며 이를 제도와 기술로 실천하는 것이 중요하다"며 "카뱅은 금융 영역에 특화한 AI 전 생애주기 관리와 책임 있는 운영으로 고객 신뢰를 지켜나가겠다"고 말했다.주형연기자 jhy@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
