염흥열 순천향대학교 정보보호학과 교수
![[포럼] AI기술의 빛과 그림자](http://contents.dt.co.kr/images/201903/2019030702102369607001[1].jpg "[포럼] AI기술의 빛과 그림자")
스마트카의 자율 주행에 주목할 필요가 있다. AI 기술은 자율주행을 위한 핵심 엔진에 비유되며, 도로 등 주변 상황 데이터가 이 엔진에 연료를 제공하는 것이다. 최근 미국 캘리포니아 주가 운전자 없는 구글 자율 주행차인 '웨이모' 의 도로 운행을 허가한 점은 AI 기술의 성숙도를 인정받았다는 점에서 시사 하는 바가 매우 크다.
AI 기술은 사이버 방어에 이용되고 있다. 대표적으로 AI 기반 보안 관제 서비스다. 방화벽 등과 같은 많은 보안 제품에서 보안 이벤트를 모아서 이를 분석해 심각한 보안 사고로 이어질 보안 사고를 찾아내야 한다. 인간 분석가가 하루에 수백만 건에 달하는 보안 이벤트를 분석하는 것은 거의 불가능하다. AI 기술은 인간의 개입없이 보안사고로 이어질 가능성이 클 보안 이벤트를 찾아내 해당 이벤트의 원인과 추후 공격 양상 그리고 잠재적인 공격자 등을 식별하는데 이용될 수 있다. 악성코드로 의심받는 회색 영역의 대량 코드에서 악성코드를 찾아주는 악성코드 탐지 시스템도 떠오르는 AI 기술의 사이버 방어에 이용하는 응용이다.
AI 기술은 방어에만 이용되지 않고 사이버 공격에도 이용될 수 있다. AI 기계가 공격 대상 조직의 정보시스템의 취약성을 찾고 이 취약성에 걸 맞는 공격 방법을 찾아 사이버 공격을 감행하는 데 이용된다.
이러한 상황 전개는 사이버 공간에서 사이버 공격과 방어의 패러다임을 변화시키고 있다. 지금까지는 천재적 해커가 공격 대상 정보시스템의 취약성을 찾아 이것을 이용해 공격 대상 조직의 정보시스템을 공격하는 패턴이었다. 그러나 이제는 사이버 공격을 감행하는 AI 기계와 이러한 공격을 막는 AI 기계가 격돌할 가능성이 크다.
2016년 8월 미국 국방부는 AI 기계간의 사이버전을 벌린 '사이버 그랜드 챌린지'(CGC)를 개최했다. 이 대회에서 카네기멜론 대학의 AI 기계인 '메이햄'(Mayhem)이 우승을 차지했는데, 메이햄은 다시 세계 최고 해킹 대회인 '데프콘'에 참가해 인간 해커들과 자웅을 겨뤘으며, 전체 15개 참가팀 가운데 14위를 기록해 해킹 고수들 중 한 팀을 이긴 성적을 거둔 바 있다.
필자가 의장으로 있는 ITU-T SG17 은 지난 1월에 스위스 제네바에서 'AI와 사이버보안'이라는 ITU 워크숍을 개최했다. 이 워크숍에서는 세계적인 연구자와 보안 전문가가 대거 참여해 어떻게 AI 기술을 사이버 방어에 활용할 것인지에 대해 심도 깊은 논의를 진행했다. AI 기술을 사이버 방어에 이용하는 것은 이제 선택의 여지가 없다는데 의견이 모아졌다.
그러나 아직은 AI 기계가 완전히 인간 분석가를 대체할 수 는 없다는 게 중론이다. 당분간 인간 분석가를 도와 해커의 공격을 조기에 찾고 이에 적절한 대응을 지원할 수 있을 것이다. 한동안 인간 분석가와 AI 엔진이 공존하면서 보완하는 관계를 가질 것이라는 것이 중론이었다. 또한 상호 호환성을 보장하기 위한 국제표준의 개발이 필요하다고 합의했다.
AI 응용 자체를 방어하기 위한 보안 기술의 개발도 필요하다. AI 응용 자체가 사이버 공격의 대상이 될 수 있다. 대표적으로 AI 응용에 입력되는 데이터를 변경해 AI 응용이 정상적인 동작을 못하게 하는 것이다. AI 응용과 상호작용하여 특정인의 민감한 개인정보를 빼내갈 경우도 생긴다. 공격자가 의도된 데이터를 AI 응용에 제공해 AI 응용이 공격자의 의도대로 작동하게 하는 경우이다.AI 기술은 우리 생활 속에서 점차 그 영역을 확대하고 있다.
AI 기술은 양면성이 있다. 원자력 기술에 비유된다. AI 기술은 사이버 공격과 방어의 새로운 패러다임을 변화시키고 있다. "남과 자기의 능력을 알면 백번 싸워지지 않는다"라는 격언이 있다. AI 응용의 편리성과 효과성도 중요하지만, 이로 인한 부작용도 간과해서는 안 된다.
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
