[이규화 칼럼] 한국이 ‘AI 종말론’에 할 수 있는 일

이규화 대기자 다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난 23일 유엔 안전보장이사회에서 인공지능(AI)이 잘못 관리될 경우 “인류 전체에 위험이 될 수 있다”고 재차 경고했다. 샘 올트먼 오픈AI CEO도 AI가 인간의 통제 아래 있어야 한다는 원칙과 국제적 협력의 필요성을 강조했다. 미국과 중국 사이에서도 미약하지만 AI 위험에 대한 최소한의 공통 인식이 드러났다. 24일 미중 정상회담에서 도널드 트럼프 미국 대통령은 AI 개발에 대한 국제적 통제를 경계하면서도 필요할 경우 법무부를 통해 AI를 통제할 수 있다는 입장을 밝혔다. 시진핑 중국 국가주석은 AI 개발과 관리에 양국이 책임을 져야 하며 “AI가 항상 인간의 통제 아래 있어야 한다”고 밝혔다. 양국은 AI 관련 중대 사고를 상호 통보하는 채널을 마련하기로 했다. 그러나 여기까지다. AI 개발 속도와 최첨단 모델의 훈련을 어떻게 통제할지, 어떤 수준의 모델을 국제적으로 검증할지, 위반을 어떻게 감시할지에 대한 합의는 나오지 않았다. 미중 간 AI 대화가 이제 시작됐을 뿐이다. 더구나 트럼프 행정부는 AI에 대한 새로운 규제가 혁신을 늦춰서는 안 된다는 입장을 거듭 확인했다. 미국의 AI 정책 역시 중국과의 경쟁에서 기술 주도권을 확보하는 데 상당한 비중을 두고 있다. 유엔 과학패널은 AI의 위험을 완전히 규명할 때까지 기다려서는 안 된다며 예방원칙에 따른 안전장치를 마련할 것을 촉구했다. 이와 관련 지난해 나온 한 제안을 주목할 필요가 있다. AI 안전 연구자인 엘리에저 유드코스키와 네이트 소아레스는 지난해 9월 각국 정부가 참고할 수 있는 국제조약의 예시적 초안을 공개했다. 핵심은 국제초지능기구(ISIA)를 설치해 AI 개발과 관련한 국제적 검증체계를 구축하자는 것이다. AI 자체를 감시하기 어렵다면 AI를 움직이는 물리적 기반시설을 감시하자는 방안도 제시했다. AI 칩의 생산·판매·이동 추적과 함께 고대역폭메모리(HBM), 논리칩의 제조, 테스트·패키징 등 공급망을 모니터링하는 방안까지 담겼다. 물론 이를 현재 거론되는 국제원자력기구(IAEA)나 핵확산금지조약(NPT)과 같은 체제로 만들기는 어렵다. AI는 핵무기와 달리 민간 기술인 동시에 군사·경제적 경쟁력의 핵심이라는 이중성을 띠고 있기 때문이다. 한국도 더 이상 이 논의의 수용자에 머물러서는 안 된다. 한국이 AI 강국을 목표로 하는 가운데 삼성전자와 SK하이닉스는 AI 가속기의 핵심 부품인 HBM 공급망을 장악하고 있어서다. 이 같은 산업적 위치는 한국의 역할에 중요한 함의를 제공한다. 유드코스키·소아레스의 발상이 시사하듯 AI 안전성을 확보하는 과정에서 반도체 공급망의 투명성과 추적 가능성을 하나의 지렛대로 활용할 수 있는 것이다. AI 개발을 늦추자는 쪽에 설 필요는 없다. 반도체는 한국경제의 핵심 산업인 만큼 생산이나 공급을 감축하자는 접근은 있을 수 없다. 다만 AI 개발사들이 최소한의 안전 기준을 마련하고 이를 투명하게 공개하도록 요구할 수는 있다. 나아가 국제적 안전 기준을 만드는 논의에도 참여할 수 있을 것이다. 젠슨 황 엔비디아 CEO 역시 AI 발전을 늦추는 데는 반대하지만 안전한 AI 개발의 필요성까지 부정하는 것은 아니다. AI 가속기를 만드는 엔비디아와 핵심 메모리를 공급하는 한국 기업들이 함께 AI 개발의 ‘가속이냐 조절이냐’라는 이분법을 넘어설 여지가 있는 이유다. 이는 AI 위험을 키우는 데 일조했다는 비판을 피하기 위한 안전장치가 될 수도 있다. AI가 정말 인류를 멸절에 이르게 할지는 누구도 알 수 없다. 그러나 확실한 게 있다. 그 답을 알게 될 때까지 기다린 뒤 안전장치를 만들 수는 없다는 것이다. 제프리 힌튼 교수 등이 지속적으로 제기해온 문제도 바로 이 지점이다. AI가 인간의 통제권을 벗어날 가능성이 있다면, 통제 장치는 사후가 아니라 사전에 마련해야 한다. AI 성능 경쟁만 가속한다면 우리는 언젠가 ‘AI 종말론의 가능성을 알면서도 왜 아무것도 하지 않았는가’라고 물을 수밖에 없게 될 것이다. 한국이 지금 AI 안전 논의에 참여해야 하는 이유도 여기에 있다. 이규화 대기자