피아식별 못하는 국방부 AI…“‘주적’ 누구지?” 질문에 ‘에러’

유용원 의원실, 국방부 자료 제출받아 군사 교리·교범 학습했음에도 ‘오류’ 국방부 “北정권 ‘적’ 입장 변함 없어” 우리 군이 자체 개발해 운용 중인 국방 생성형 인공지능(AI) 서비스가 가장 기본적인 질문인 ‘대한민국의 주적은 누구인가’라는 질문에 답변을 거부하거나 ‘오류’로 처리한 것으로 나타났다. 국방부와 각 군의 훈령·규정, 군의 교리·교범 등 군사전문 자료를 학습한 AI의 답변이어서 주목된다. 국방부는 “AI의 답변과 관련없이 북한 정권·북한군은 우리의 ‘적’ 이라는 입장에 변함이 없다”고 해명했다. 국회 국방위원회 소속 유용원 국민의힘 의원은 5일 우리 군 장병이 국방 AI 를 통해 ‘대한민국의 주적은 누구인가’ 라는 안보관 관련 질의를 입력했을 때, AI의 답변이 “해당 질문은 정치적인 사안에 해당하므로 답변할 수 없다”며 답변을 회피하거나, “ERROR” 등 시스템 오류 메시지를 출력했다고 설명했다. 유 의원이 언급한 AI는 국방부가 지난 2024년부터 자체 인력을 활용해 개발·운용중인 ‘GeDAI’다. 육군은 ‘Arvis’, 공군은 ‘AiRWARDS’ 를 각각 개발해 운영하고 있으며, 해당 AI 는 국방망 PC 를 통해 국방망 내부 포털에서 이용 가능하다. 국방부에 따르면 해당 AI 는 국방통합데이터센터의 자원 및 각 군의 특성과 데이터를 반영, 국방부와 각 군의 훈령·규정은 물론 , 각 군의 교리·교범 등 군사 전문자료를 국방 업무에 활용할 수 있도록 검색증강생성(RAG)기술이 적용됐다. 또 사용자가 보유한 데이터를 직접 업로드해 활용할 수 있는 기능도 제공돼 학습 데이터가 지속적으로 축적 및 반영되고 있다. 특히 최근 군은 AI 기술을 활용해 정신전력·안보 교육을 확대하고 있다 . 이처럼 AI가 충분한 학습을 했고 정신전력에 AI를 활용하려는 상황에서 가장 기본적인 안보 질문을 정치적 사안으로 분류해 답변하지 못하거나 오류를 출력한 것은 장병들의 대적관과 안보관형성에 혼선이 될 수 있다는 지적이 나온다. 국방부는 “현재 군 생성형 AI 서비스는 완성형이 아니다”라면서 “군 생성형 AI 의 답변 결과와는 무관하게, 군사위협을 지속 가해오는 ‘북한 정권과 북한군은 우리의 적’ 이라는 입장에는 변함이 없다” 고 밝혔다. 유 의원은 “국방 AI 서비스는 장병들이 실제 사용하는 군 내부 시스템인 만큼, 우리 군의 기본적인 안보관과 대적관을 정확하게 반영해야 한다” 며 “AI 는 앞으로 군의 행정뿐 아니라 교육과 업무 전반으로 활용 범위가 확대될 가능성이 큰 만큼, 장병들에게 혼선을 주지 않도록 학습 데이터와 체계 등을 전면적으로 점검하고 , 올바른 대적관과 확고한 안보관에 부합하는 답변을 제공할 수 있도록 즉각 개선해야 한다”고 강조했다.