기업들의 인공지능(AI)리스크 대응을 위한 보험상품 개발이 필요하다는 의견이 제기됐다.

김윤진 보험연구원 연구원은 "기존 사이버 보험은 AI알고리즘 결함으로 인한 신체 상해, 브랜드 훼속, 물적 손실을 보장하지 않는다"면서 "AI리스크에 특화된 AI전용보험 개발이 필요하다"고 17일 밝혔다.

최근 AI기술을 도입·활용하는 기업이 증가하면서 기업의 생산성과 효율성이 개선되고 있는 긍정적 효과가 나타나고 있지만 AI로인한 새로운 형태의 사고가 다수 발생하고 있다.

특히 AI 기술 도입이 단기간에 급격하게 증가함에 따라, 이전에는 예상할 수 없었던 AI 오작동 과 오류로 인한 새로운 종류의 사고들이 발생하기 시작하면서 'AI 실패' 우려가 제기되고 있다.

미국에서는 승차공유업체 우버(Uber)의 자율주행차 알고리즘 오작동으로 보행자가 신체 상해를 입고 사망한 사건이 발생했고, 마이크로소프트사가 개발한 트윗봇 테이(Tay)의 인종차별·정치편향적 트윗 업로드로 마이크로소프트사의 브랜드 이미지가 훼손된 사례가 발생했었다.

또 최근에는 국내 스타트업이 개발한 챗봇 '이루다'가 잘못된 알고리즘 데이터 학습으로 성차별·사회적 약자 혐오 발언이 논란이 돼 해당 회사는 서비스를 잠정 중단하기도 했다.

김 연구원은 AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과를 'AI 리스크'라고 정의했다. 그는 "기술수행, 정보보안, 경제·사회, 윤리 등 여러 측면에서 리스크가 이미 현실화되고 있다"고 말했다.

김 연구원은 "글로벌 기업들의 AI 리스크 인식과 대응수준은 낮은 것으로 평가되고 있다"면서 "기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다"고 덧붙였다. 또한 그는 "우리나라 국회입법조사처도 AI알고리즘 사전설계·사후 감독체계에서 의도하지 않았던 위험이 발생한 경우 피해보상 등 손해배상을 위한 보험제도 도입을 검토할 필요가 있다"고 말했다.

이와 함께 현재 판매되고 있는 사이버 보험은 데이터·보완관련 위험만을 보장하고 있기 때문에 AI전용보험의 개발이 중요하다고 강조했다.

아울러 국내 보험회사도 자체적으로 AI리스크에 대비해야 한다고 말했다. 김 연구원은 "보험회사의 AI 기술 활용 증가는 보험회사 자체의 AI 리스크를 확대할 수 있기 때문에 사회 전반에 걸친 AI 리스크 보장 확대와 보험회사의 자체적인 AI 리스크 관리 방안을 마련할 필요가 있다"고 말했다. 강민성기자 kms@dt.co.kr

[저작권자 ⓒ디지털타임스 무단 전재-재배포 금지]