AI에 서울방어 맡겨도 되나… 올트먼 "따져볼 것 많아"

'오펜하이머 순간' 임박에 신중론
'북한이 서울을 기습 공격할 경우 인공지능(AI)에 방어를 맡겨도 되냐'는 질문에 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)가 "따져봐야 할 질문이 많다"고 말했다. 스스로 판단해 적을 살상하는 AI 무기인 '킬러 로봇' 출현 등이 임박하면서 일명 '오펜하이머 순간'이 다가온 시점에서 오픈AI CEO도 결정이 쉽지 않다는 신중론을 펼친 셈이다.

올트먼은 7일(현지시간) 워싱턴의 싱크탱크인 브루킹스연구소가 'AI 시대의 지정학적 변화'를 주제로 개최한 화상 대담에서 "북한이 서울을 향해 군 항공기 100대를 출격시킨다면, 한국이 AI를 활용해 이를 격추 시켜도 되느냐"는 질문을 받았다.

올트먼은 "항공기가 한국에 접근하고 있고 인간이 의사 결정에 관여할 시간이 없을 때 AI가 요격 결정을 할 수도 있고 안 할 수도 있지만, 그런 공격이 일어나고 있다고 정말 확신할 수 있느냐"며 "어느 정도로 확실해야 하나, 예상되는 인명 피해는, 회색 지대의 어느 지점에 선을 그어야 하는가, 정말 (우리가 따져봐야 할) 질문이 많다"고 답변했다.

그는 "난 'AI가 핵무기 발사를 결정할 수 있어야 한다'고 주장하는 것을 들은 적이 없지만, 또 누가 접근하는 미사일을 요격할 때처럼 정말 빠르게 행동해야 할 때 AI를 사용해서는 안 된다고 주장하는 것도 들은 적이 없다"며 "그런데 그 사이에 이런 지대도 있다"고 말했다. 이어 이같은 내용은 자신의 전문 분야가 아니라면서 "오픈AI에서 이런 결정을 하지 않아도 되기를 바란다"고 말했다.

최근 전세계 군사·기술 전문가들은 기업들이 AI 사업을 키우면서 전쟁에서 AI 활용이 가속하는 상황에서 이에 대한 통제가 있어야 한다는 목소리를 내고 있다. 특히 일각에서는 1945년 원자폭탄 개발을 주도한 후 핵무기 확산 통제를 주장했던 로버트 오펜하이머를 언급하며 "지금이 오펜하이머 순간"이라며 규제 필요성을 주장하기도 한다.

챗GPT로 AI의 급격한 확산을 이끌었던 올트먼 또한 AI 무기 활용 등에 신중한 접근을 취하고 있는 것으로 해석된다.

아울러 올트먼은 이날 지정학적 경쟁이 AI 산업에 미치는 영향에 대해 질문에 대해서는 "우리는 매우 분명히 미국과 우리 동맹의 편"이라고 답했다. 다만, 이 기술이 인류 전체에 득이 되기를 원한다며, 동의하지 않는 지도부가 있는 특정 국가에 살게 된 사람들에게만 득이 되는 것을 원치 않는다고 덧붙였다. 그는 "우리가 AI와 관련해 중요한 수많은 것에서 중국과 동의하지 않겠지만 우리 모두 AI의 파국적인 위험을 줄여야 한다는 목적을 공유한다는 희망을 품고 있다"고 밝혔다.

이외에도 올트먼은 AI컴퓨트와 반도체·데이터센터 등 AI 기반 시설을 미래의 주요 상품으로 꼽고, AI 활용 가짜뉴스에 대해 "편집증적으로 AI가 선거 방해에 사용되는 것을 막을 것"이라고 언급하기도 했다. 김나인기자 silkni@dt.co.kr