AI 속도조절 외치며 IPO는 질주…‘안전론’ 뒤에 숨은 복잡한 셈법

AI CEO들 “AI 속도 늦춰야”…한쪽에선 상장 재촉 선두기업 유리, 후발주자 불리한 ‘규제 포획’ 우려 트럼프·젠슨 황은 정면 반대…“中에 주도권 뺏겨” AI 파멸 확률도 0.01~99.99% 극단적 편차 보여 미국 인공지능(AI) 업계에 ‘속도조절론’이 급작스럽게 부상한 반면, 그에 대한 반발도 거세지고 있다. 앤트로픽의 다리오 아모데이 최고경영자(CEO)를 시작으로 오픈AI의 샘 올트먼 CEO 등 주요 AI 기업 수장들이 AI의 통제 불능 가능성을 경고하며 개발 속도를 늦춰야 한다고 목소리를 높이고 있다. 그러나 AI 산업의 속사정을 들여다보면 ‘안전’만으로 설명하기 어려운 복잡한 셈법이 드러난다. 기업공개(IPO), 기업가치, 개발비, 시장 주도권, 정부 규제까지 서로 다른 이해관계가 얽혀 있기 때문이다. 월스트리트저널(WSJ)은 14일 AI 산업을 둘러싼 상황을 ‘돈과 안전의 충돌’로 진단했다. AI의 과학적 진보와 도덕적 의무, 막대한 경제적 유인이 동시에 작동하면서 산업 자체가 딜레마에 빠졌다는 분석이다. 특히 눈에 띄는 것은 AI 기업들의 상장 전략이다. 아모데이 CEO가 안전을 이유로 개발 속도조절을 주장하는 가운데 앤트로픽은 연내 IPO를 추진하고 있는 것으로 알려졌다. 상장기업이 되면 오히려 기업의 투명성과 책임성을 높일 수 있다는 논리다. 오픈AI는 다른 행보를 보이고 있다. 올트먼 CEO는 AI 안전 문제 등을 이유로 2026년 IPO를 서두르지 않겠다는 입장을 밝혔다. 하지만 뉴욕타임스(NYT)는 앞서 오픈AI가 기업가치와 시장 상황 등을 고려해 상장 시기를 조정하는 방안을 검토해왔다고 보도했다. 최상의 기업가치를 인정받기 위해 시기를 조율하고 있을 뿐이라는 지적이다. 사실, 속도조절이 기업에 반드시 손해인 것도 아니다. AI 개발 경쟁이 늦춰지면 기업들은 막대한 모델 훈련 및 컴퓨팅 비용을 줄일 수 있다. 이미 출시한 AI 서비스에서 매출이 계속 발생한다면 수익성은 오히려 개선될 여지가 있다. IPO를 앞둔 기업이라면 재무구조 개선이 기업가치에 긍정적으로 작용할 수도 있다. 더 큰 문제는 규제다. AI 선두기업들이 ‘안전’을 명분으로 정부 규제의 기준을 주도할 경우 후발주자의 시장 진입을 막는 ‘규제 포획’(regulatory capture)이 발생할 수 있다는 지적이다. 막대한 자본과 인프라를 가진 대기업에는 감당할 수 있는 안전성 검증 비용이 스타트업에는 높은 진입장벽이 될 수 있어서다. 데이비드 색스 백악관 과학기술자문위원장은 이 같은 논리를 강하게 비판했다. 그는 AI 개발 속도를 늦추려는 동기가 진정한 안전 우려라면 존중할 수 있지만, 이를 이타주의로 포장해서는 안 된다는 취지로 지적했다. AI 기업들이 정부에 규제를 요구하면서 자신들에게 유리한 규제 체계를 만드는 데 영향력을 행사할 수 있다는 것이다. AI 안전론과 시장 경쟁의 충돌은 미중 패권경쟁이라는 현실 앞에서 더욱 복잡해진다. 미국 기업들이 속도를 늦추더라도 중국 기업들이 동참하지 않는다면 자발적 속도조절은 사실상 성립하기 어렵다. 중국의 딥시크·문샷AI·알리바바 등 오픈소스·오픈웨이트 진영이 미국 최상위 모델을 빠르게 추격하면서 AI 경쟁은 이미 기업 간 경쟁을 넘어 국가 전략경쟁으로 확대됐다. 도널드 트럼프 대통령이 AI 속도조절론을 강하게 비판하는 이유도 여기에 있다. 그는 AI 개발을 늦추는 것이 중국에 이익을 줄 수 있다고 주장한다. AI 반도체 시장의 최대 수혜자인 엔비디아의 젠슨 황 CEO도 같은 맥락에서 속도조절론에 제동을 걸었다. 황 CEO는 14일 AI 개발 속도를 늦추자는 움직임에 대해 “우리는 그런 일이 일어나도록 내버려두지 않을 것”이라는 취지의 입장을 밝혔다. AI 개발 속도는 엔비디아의 반도체뿐 아니라 데이터센터와 메모리, 서버, 전력·냉각 산업 전체의 투자와 직결된다. 그렇다고 AI 파멸론이 근거 없는 공포라고 단정하기도 어렵다. AI가 인간의 통제를 벗어나 인류 멸망으로 이어질 가능성을 뜻하는 ‘p’(doom)을 놓고 전문가들의 전망은 극단적으로 엇갈린다. 로만 얌폴스키 루이빌대 교수는 그 가능성을 99.99% 수준으로 보는 반면, 얀 르쿤 뉴욕대 교수는 0.01% 미만으로 평가해왔다. 제프리 힌턴과 요슈아 벤지오는 10~20% 수준을 제시한 바 있다. 이처럼 수치가 크게 갈리는 것은 아직 AI의 발전 경로와 인간 통제 상실 가능성을 객관적인 데이터로 계산할 방법이 확립되지 않았기 때문이다. 결국 현재의 AI 속도조절 논쟁은 누가 안전의 기준을 정하고, 누가 규제의 룰을 만들며, 그 과정에서 누가 시장의 주도권을 가져갈 것인가를 둘러싼 싸움이다. AI 안전에 관한 한 누구도 결코 비켜갈 수 없다. 하지만 안전론 역시 기업의 IPO와 시장 지배력, 규제 주도권, 미중 기술패권이라는 현실적 이해관계를 고려하지 않을 수 없다.