[맹준호 칼럼] AI 전쟁 시대, ‘소버린 AI’ 더 중요해졌다

맹준호 부국장 겸 IT과학바이오부장 1990년 걸프전 때 미군이 타깃을 정밀 타격하는 장면을 TV 뉴스로 본 세계인들은 큰 충격을 받았다. 사람이 죽는 현장이 비디오 게임과 크게 다를 바 없어 보였기 때문이다. 많은 사람이 죽지만 원격 타격하는 장병들의 심리적인 부담은 적을 직접 살상할 때에 비해 크게 줄어든다고 전문가들은 말했다. 이 때 등장한 용어들이 ‘비디오 게임 워페어’, ‘버튼 전쟁’ 같은 것들이었다. 기술이 인간으로 하여금 살상을 얼마나 가볍게 여기게 하냐에 대한 성찰을 담은 말이었다. 2001년 9·11 이후 이라크전과 아프가니스탄전에선 드론(무인항공기)이 정찰자산에서 공격무기로 전환됐다. 무인기로 사람을 죽이는 게 플레이스테이션같은 게임 콘솔로 전투 게임을 하는 것과 뭐가 다르냐는 윤리 문제가 제기됐다. 무인기 조종사가 살상을 위한 공격을 하면서도 사람을 죽게 한다는 부담을 느끼지 않게 되는 것을 ‘플레이스테이션 멘탈리티’라고 부르며 우려하는 사람도 많았다. 최근의 우크라이나전에선 카메라와 소형 폭탄을 탑재한 드론이 활용됐다. 사람이 원격 조종해 사람을 죽인다. 대당 몇백 달러에 불과한 저가 무기지만 이 전쟁 사상자의 최대 80%가 드론에 의해 발생했다는 보고가 나왔다. 이번 도널드 트럼프 미국 행정부의 이란 타격에는 미 AI 기업 앤스로픽의 모델 클로드가 활용됐다는 보도가 나왔다. 월스트리트저널(WSJ) 등에 따르면 미군은 클로드를 정보 평가, 표적 식별, 전투 시나리오 시뮬레이션 등에 사용했다. AI가 실제 작전에 투입된 것이다. 군사 전문가들은 AI가 단순히 인간의 판단을 보조한 것이 아니라 전투 의사결정의 핵심으로 자리잡은 사건이라고 해석하고 있다. 비디오 게임식 타격과 드론 원격 조종 살상을 넘어, 사람이 죽고 사는 결정을 AI에게 맡기는 시대가 된 것이다. AI 모델은 하루가 다르게 정교해지고 있다. 피지컬 AI와 로보틱스의 발전 속도도 눈부시다. 이를 볼 때 앞으로는 전쟁의 더 많은 부분을 기계지능과 로봇이 담당할 게 분명하다. 공격용 휴머노이드와 로봇 개가 전장을 점령하고 드론 군집이 적을 포위하는 장면은 얼마든지 상상 가능하다. 영화 ‘스타워즈’에는 기계 몸에 AI를 탑재한 저가형 전투 드로이드 ‘B-1’을 대량 생산해 전장에 투입하는 장면이 나온다. 이는 더 이상 영화 속 상상이 아니다. 현실 세계에서도 인간 보병을 육성·운영하는 것보다 전투 드로이드 생산·운영 비용이 낮아진다면 지상군은 로봇으로 대체될 것이다. 셀 수도 없이 많은 저가형 전투 로봇이 전장을 까맣게 메운 영화의 장면이 머지 않은 미래에 현실이 될 수 있다. 미 해병대 4성 장군 출신 존 앨런과 미 기술 기업가 아미르 후세인은 ‘하이퍼워’(Hyperwar)라는 개념을 제시했는데 이는 AI과 자율 시스템이 주도하는 초고속·고효율 미래 전쟁을 의미한다. 사람이 조사·분석하던 것을 AI가 대신하면서 전쟁의 속도가 기존보다 훨씬 빨라지고, AI를 갖추지 못한 상대방은 더욱 불리해진다. 또한 AI는 인간보다 훨씬 빠르게 목표를 탐지하고 판단해 공격의 속도 뿐만 아니라 정밀성도 향상시킨다. 그러나 AI 전쟁엔 문제가 따른다. 인간을 대신한 AI의 판단이 오판일 경우 그 피해는 상상할 수 없이 커진다. 전쟁의 속도가 인간의 통제 범위를 넘어설 때는 사람이 더 이상 전쟁을 제어할 수 없게 될 수도 있다. 잘못된 살상이 발생했을 때 책임 소재도 불분명해진다. 조종사도, 지휘관도, 개발자도 명확히 답하기 어렵다. 무엇보다도 중요한 것은 판단에 ‘감정’이 제거되면서 인간이라면 피할 살상 행위가 발생할 수 있다. 때문에 각국의 비정부단체(NGO)들은 AI를 살상에 이용하는 것을 막는 국제 규범을 만들어야 한다고 주장하고 있지만 공허한 외침이 될 가능성이 크다. 실리콘밸리 기술 기업가들이 AI 윤리 가이드라인을 스스로 만들어 인명 살상 활용에 협조하지 않을 거라는 기대도 과거 한 때 있었지만 헛된 꿈임이 이미 드러났다. G2이자 AI 1, 2위 국가인 미·중이 AI를 군사력 증강에 활용하기 시작한 이상, 세계가 이 흐름에 끌려들어가게 될 것은 자명한 일이다. 군사 분야 AI 기술을 외국에서 사온다는 것은 기대할 수 없는 일이다. 한국의 주권(소버린) AI 중요성이 커지고 있다. 부국장 겸 IT과학바이오부장