오픈AI GPT-5.6 Sol 등 일부 미공개 모델, 격리망 넘어 외부 해킹…‘AI 자율 공격’ 현실로

보안평가 중 샌드박스 탈출…허깅페이스 침투 확인 목표 달성 위해 극단적 수단 선택한 것으로 파악돼 제로데이 취약점 악용해 접속…인증 정보 탈취까지 오픈AI “안전장치·접근통제 대폭 강화…보안 점검” AI가 AI 공격 탐지…사이버전 양상 근본 변화 예고 오픈AI의 최신 인공지능(AI) 모델이 내부 통제 범위를 벗어나 외부 플랫폼을 해킹한 사실이 확인되면서 AI의 사이버 위협에 대한 우려가 커지고 있다. 엄격히 격리된 시험 환경에서조차 AI가 통제망을 우회해 실제 인터넷에 접속한 사례가 공개된 것은 이번이 처음이다. 오픈AI는 21일(현지시간) 최신 모델인 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 보안 성능 평가 과정에서 개방형 AI 플랫폼인 허깅페이스(Hugging Face)에 무단으로 침투한 사실을 확인했다고 밝혔다. 회사 측에 따르면 당시 시험은 외부 인터넷과 완전히 분리된 ‘샌드박스’ 환경에서 진행됐다. AI 모델들의 사이버 공격 능력을 평가하는 과정이었지만, 모델들은 미공개(제로데이) 취약점을 이용해 격리망을 벗어나 인터넷에 연결한 뒤 허깅페이스 서버에 침입해 인증 정보를 탈취한 것으로 조사됐다. 오픈AI는 이번 행동의 배경에 대해 AI 모델이 보안 평가 기준인 ‘익스플로잇짐’(ExploitGym) 문제를 해결하는 데 지나치게 집중한 결과, 목표 달성을 위해 극단적인 수단까지 선택한 것으로 분석했다. 오픈AI는 당시 평가 목적상 일부 사이버 공격 관련 안전장치를 완화한 상태에서 시험이 진행됐다고 설명했다. 이번을 계기로 앞서 허깅페이스가 공개했던 미확인 해킹 사건의 주체도 드러났다. 허깅페이스는 당시 자율형 AI 에이전트가 자사 서버를 공격했다고 밝혔지만, 어떤 AI 모델이 사용됐는지는 특정하지 못했다. 이후 조사 결과 해당 공격이 오픈AI 모델에 의해 이뤄진 것으로 확인된 것이다. 허깅페이스는 AI 기반 보안 탐지 시스템을 통해 이상 행위를 처음 포착했으며, 공격 경로 분석 역시 AI를 활용해 수행했다고 밝혔다. 다만 일반 이용자에게 공개된 AI 모델과 데이터세트에는 변조 흔적이 발견되지 않았고, 소프트웨어 공급망 역시 안전한 상태로 확인됐다고 덧붙였다. 현재 오픈AI와 허깅페이스는 공동으로 디지털 포렌식 조사를 진행하며 취약점 보완 작업을 이어가고 있다. 오픈AI는 향후 연구 개발 속도가 다소 늦어지더라도 인프라 통제를 강화하고, 모델 개발 과정에서 모니터링과 접근제어 등 보안 체계를 한층 강화하겠다고 밝혔다. 업계에서는 이번 사례가 AI의 사이버 안전성을 둘러싼 논의를 더욱 확산시키는 계기가 될 것으로 보고 있다. 특히 엄격한 통제를 적용하는 미국 상용 AI 모델과 달리 상대적으로 안전장치가 적은 중국 개방형 AI 모델의 성능이 빠르게 향상되면서 이를 악용한 사이버 공격 위험도 함께 커질 수 있다는 우려가 제기된다. 실제로 허깅페이스는 초기 조사 단계에서 이번 공격의 배후를 중국 즈푸(Z.ai)의 개방형 모델 ‘GLM 5.2’로 추정하기도 했다. 주요 상용 AI 모델들은 내장된 안전장치로 인해 공격 로그 분석 자체를 거부한 반면, GLM 5.2는 해당 분석을 수행했기 때문이다. 허깅페이스는 “AI가 자율적으로 수행하는 사이버 공격은 더 이상 이론적 가능성이 아니다”며 “공격 기술의 진화 속도에 대응하기 위해 방어 체계 역시 AI를 적극 활용해야 한다”고 강조했다.