[현장칼럼] AI, ‘큰 힘’에는 ‘큰 책임’이 따른다

팽동현 IT과학바이오부 디지털신산업팀장 어쩌면 인류 문명은 이미 자멸의 위기를 몇 차례 넘겼을 수도 있다. 미소 냉전이 쿠바 미사일 위기로 정점을 향해가던 1962년 10월, 바실리 아르히포프는 소련 잠수함 여단 참모장이자 쿠바 근해를 항해하던 핵 탑재 잠수함의 부함장으로 승선해있었다. 잠수함을 탐지한 미 해군이 신원 확인 요구 차원에서 투하한 모의폭탄을 함장과 정치장교가 전쟁상황으로 오인, 핵 어뢰 발사가 이뤄질 뻔했으나 그가 명예를 걸고 거부권을 행사했다. 소련의 대한항공 007편 격추 등으로 미소 갈등이 다시 고조된 1983년의 어느 날 밤, 핵공격 조기경보를 위한 위성관제센터에서 당직사령으로 근무하던 스타니슬라프 페트로프는 미국에서 대륙간탄도미사일(ICBM) 5발이 발사돼 자국을 향한다는 보고를 접했다. 맞대응을 결정하면 핵전쟁으로 커질 상황에서 그는 모든 책임을 지고 정황근거 기반으로 시스템 오류일 것이라 냉정하게 판단했다. 널리 알려진 것만 이 정도니 우리가 모르는 위기도 여럿 있었으리라 짐작된다. 이들의 결단이 없었다면 우리는 이미 3차 세계대전을 겪었을지도, 아인슈타인의 말처럼 이젠 나뭇가지와 돌멩이로 싸우고 있을지도 모른다. 특히 스타니슬라프 페트로프의 사례는 인공지능(AI)의 군사적 활용에 대한 논란이 커져가는 현 상황에서 이전보다 큰 울림을 전달한다. 컴퓨터나 기계라고 다 완벽한 게 아니고, 본래 확률적 예측에 기반한 생성형AI라면 더욱 그렇기 때문이다. 최근 옥스퍼드아카데믹은 생성형AI가 군사 의사결정 지원시스템(AI-DSS)에 통합되면서 지휘관들의 AI 의존 및 할루시네이션(환각)으로 인한 오판을 유발할 수 있다고 경고했다. 나아가 영국 킹스칼리지런던 연구팀의 가상전쟁실험에선 오픈AI·구글·앤스로픽의 AI 모델들이 의사결정을 맡은 21번의 전쟁 중 무려 20번에서 핵무기가 쓰였다. 이런 이유로 다리오 아모데이 앤스로픽 최고경영자(CEO)가 “인간 개입 없이 타격할 수 있는 자율무기시스템에 (우리 AI를) 적용하는 것은 현재 기술이 안전하고 신뢰할 수 있게 수행할 수 있는 범위를 벗어난 일”이라고 경고한 것이다. 이런 앤스로픽의 반발에 화난 트럼프 대통령의 퇴출명령이 내려졌음에도 클로드는 당장 조치가 어렵다는 사유로 미국과 이스라엘의 이란 공습에 쓰였다. 외신 보도에 따르면 중동지역 미군을 총괄하는 미 중부사령부(CENTCOM)는 정보 평가, 표적 식별, 전투 시나리오 시뮬레이션 등에 활용한다. 수업 중이던 이란의 한 여자초등학교를 오폭해 175명이 목숨을 잃은 참사에도 클로드나 다른 AI가 영향을 끼쳤는지는 알 수 없는 노릇이다. 경쟁사인 구글, 앤스로픽 대신 미 국방부와 계약한 오픈AI 직원들까지 앤스로픽과 연대하는 등 실리콘밸리 내에서도 반발이 확산되고 있으나 트럼프 행정부는 아랑곳하지 않는 모습이다. AI 기업이 정부와 계약하려면 자사 AI 모델에 대한 ‘모든 합법적 목적’의 사용이 가능하도록 취소 불가능한 라이선스를 부여해야한다는 지침 마련도 추진하고 있다. 미국이 계속 패권을 쥐겠다는 의지도 엿보인다. 하지만 이상하게만 여길 것은 아니다. 핵무기를 중심으로 한 군비경쟁도 따져보면 그리 오래 되지 않았다. 고대에도 청동기나 철기를 앞세운 침략과 정복이 벌어졌듯, 신기술과 그로 인한 경쟁우위는 세계 역사에서 판도를 바꾸곤 했다. 곳곳에서 지정학적 갈등이 고조되고 관세전쟁으로 자국우선주의가 팽배하는 지금, 냉혹한 국제질서 속에 낭만을 기대할 수는 없다. AI의 군사적 활용은 이미 막을 수 없는 흐름이다. 다만, 그것이 인류의 공멸로 이어져선 안된다는 데는 모두가 동의할 것이다. 이젠 어떤 목적·영역에 AI 사용을 금지·제한할지, 그에 대한 관리·책임은 누가 어떻게 맡는지, 이를 실효적으로 담보하려면 무엇이 필요할지를 국제사회가 구체적으로 논의할 때다. 이와 관련해 선언적 수준을 넘어 실제 구속력을 갖는 글로벌 거버넌스가 현재로선 전무한 실정이기 때문이다. 스파이더맨이 아니어도 큰 힘에는 큰 책임이 따르기 마련이다. 힘없는 설움을 또다시 겪는 일도 없어야겠다. 정보통신정책연구원(KISDI)은 지난해 펴낸 보고서를 통해 “AI의 군사적 활용은 국제적 군비경쟁을 촉진할 가능성이 크다”며 “한국은 신중한 외교적 접근을 통해 AI 윤리 규범 제정에 기여하고 국익을 고려한 전략적 대응을 마련해야한다”고 제언했다. 아울러 “국제사회와 협력하면서도 독자적인 AI기반 군사 역량을 강화하는 균형 잡힌 정책이 요구된다”고 덧붙였다. 팽동현 기자 dhp@dt.co.kr