카카오뱅크, 업계 최초 ‘AI 품질관리 프레임워크’ 도입…AI 리스크 관리 본격

카카오뱅크가 인공지능(AI) 서비스 품질 관리 영역에서도 새로운 기준을 제시한다. 카카오뱅크는 AI 서비스의 기획·개발·출시·운영 전 과정을 체계적으로 관리하는 'AI 프로덕트 평가 프레임워크'를 금융권 최초로 자체 도입했다고 13일 밝혔다. 'AI 프레임워크'는 AI 서비스 품질을 수치화하고 리스크를 체계적으로 관리하기 위한 AI 품질관리 표준 체계다. 현재 운영 중인 AI 검색, AI 금융계산기 등 기존 서비스는 물론 향후 공개될 신규 AI 서비스 전반에도 적용된다. 이번 도입으로 카카오뱅크는 AI를 관리·감독하는 'AI 거버넌스' 체계를 한층 강화했다. 이는 단순한 기술 관리에 그치지 않고, AI 리스크를 선제적으로 관리하기 위한 조치다. AI 프레임워크는 △서비스 기획 △모델 평가 △기능 테스트 △품질 및 신뢰성 검증 △보안 점검 △대고객 출시 △운영 및 개선 등 AI 서비스의 전 생애주기를 아우르는 관리 절차로 구성됐다. 특히 대형언어모델(LLM)의 특성상 같은 질문에도 답변이 달라질 수 있는 점을 보완하기 위해, 평가 결과를 수치화하고 반복 검증하는 정량 평가 체계를 도입했다. 이를 통해 AI 응답의 불확실성 등 AI 리스크를 사전에 차단하고 개발 효율성과 안정성을 동시에 제고한다. 유진아 기자 gnyu4@dt.co.kr