[이규화의 글로벌AI] ‘첫 AI 랜섬웨어의 진실’… 초기조건은 인간이 제공했다

테크크런치 "AI 단독 해킹은 아직 시기상조" 표적 선정·계정 확보 등은 인간 해커가 마련 AI는 침투부터 암호화까지 공격 자동 수행 "인간의 역할 감소는 시간문제"… 우려 고조 인공지능(AI)이 사이버 공격의 상당 부분을 스스로 수행하는 시대가 현실로 다가오고 있다. 아직은 인간이 공격에 필요한 '초기 조건'을 제공해야 하지만, 이후 침투와 권한 확보, 내부 이동, 파일 암호화 등 공격 과정은 AI가 대부분 처리하는 수준에 이르렀다. 보안업계는 AI가 인간을 완전히 대체했다고 보기는 어렵지만, 인간의 역할이 빠르게 축소되고 있다는 점이 더 중요한 변화라고 평가한다. 미국 IT 매체 테크크런치는 6일(현지시간) 최근 보안업계의 주목을 받은 AI 기반 랜섬웨어 사례를 분석하며 "AI가 모든 것을 혼자 수행했다는 해석은 사실과 다르다"고 지적했다. 앞서 클라우드 보안업체 시스딕(Sysdig)은 AI 에이전트 '제이드퍼퍼'(JadePuffer)가 서버 침투, 권한 탈취, 내부 네트워크 이동, 파일 암호화, 몸값 요구문 작성 등 랜섬웨어 공격 전 과정을 수행했다고 발표했다. 이를 두고 일부에서는 'AI가 실행한 첫 랜섬웨어 공격'이라는 평가가 나왔다. 하지만 테크크런치는 공격이 시작되기까지의 핵심 준비 과정은 모두 인간이 담당했다고 설명했다. 공격 대상을 선정하고, 침투에 필요한 계정 정보와 인증 정보를 확보하며, AI가 사용할 명령과 공격 환경을 구축한 것은 인간 해커였다. AI는 이렇게 마련된 조건 위에서 시스템을 탐색하고 권한을 확대하며 랜섬웨어를 실행하는 일련의 과정을 자율적으로 수행했다. 즉 AI가 스스로 공격 대상을 물색해 범행을 계획한 것이 아니라, 인간이 만들어 놓은 출발선에서 공격을 이어받아 실행했다는 것이다. 그렇다고 이번 사례의 의미가 줄어드는 것은 아니다. 오히려 전문가들은 인간이 수행하던 역할 가운데 가장 많은 시간이 소요되는 실행 단계가 AI로 대체되기 시작했다는 사실 자체를 더 주목한다. 기존에는 숙련된 해커가 몇 시간 또는 수일에 걸쳐 수행해야 했던 침투와 권한 확보, 내부 이동 등의 작업을 AI 에이전트가 훨씬 빠른 속도로 반복 수행할 수 있게 되면 공격 비용은 크게 낮아지고 대규모 공격도 한층 쉬워질 수 있기 때문이다. 특히 최근 AI 에이전트는 단순히 사용자의 명령을 수행하는 수준을 넘어 목표 달성을 위해 필요한 작업을 스스로 계획하고 여러 도구를 연계하는 방향으로 발전하고 있다. 취약점 탐색, 악성코드 생성, 시스템 분석 등 개별 기능을 수행하는 AI들이 결합될 경우 인간이 제공해야 하는 '초기 조건'마저 점차 줄어들 가능성이 있다는 분석이 나온다. 테크크런치는 이번 사례의 핵심은 AI가 인간을 완전히 대체했다는 데 있는 것이 아니라, 인간이 담당하는 영역이 점차 AI로 이전되고 있다는 점이라고 평가했다. 현재는 인간이 공격의 첫 단추를 끼우고 AI가 이후 과정을 맡는 구조지만, 앞으로 AI가 표적 선정과 정보 수집, 침투 경로 결정까지 수행하는 수준에 도달한다면 인간의 개입은 최소화될 수 있다. 그렇게 되면 사이버 공격은 더 빠르고 저렴하며 대규모로 이뤄질 가능성이 커진다. 결국 이번 사례는 'AI가 혼자 랜섬웨어를 실행했다'는 사건이라기보다, 인간과 AI의 역할 분담이 새로운 단계에 접어들었음을 보여준 사례로 보는 것이 타당하다. 보안업계가 우려하는 것은 현재의 AI가 아니라, 인간이 맡고 있는 마지막 준비 단계마저 AI가 대신하게 될 미래다. 이번 실험은 그 가능성이 더 이상 먼 이야기가 아님을 보여주는 신호탄으로 받아들여지고 있다. 이규화 대기자 david@dt.co.kr