[기획] 젠슨황·올트먼에 저커버그까지… ‘AI 속도조절론’ 소용돌이

실리콘밸리 거물들 AI 개발 놓고 '갑론을박' 안전 확보 방식·규제 필요성 두고 입장 갈려 인공지능(AI) 개발 속도를 늦춰야 하느냐를 두고 실리콘밸리 거물들의 공방이 계속해서 뜨거워지고 있다. AI의 발전 속도가 인간의 통제 능력을 앞서기 전에 속도를 조절해야 한다는 주장과 개발을 늦추지 않고도 안전성을 확보할 수 있다는 주장이 맞서고 있다. 16일 로이터 통신 등 외신에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 15일(현지시간) 미국 샌프란시스코에서 열린 세일즈포스의 연례 콘퍼런스 '드림포스 2026'에서 AI 안전을 위해서는 자체 점검, 업계 표준 정립, 국제 공조라는 3단계 접근법이 필요하다고 주장했다. 아모데이 CEO는 "AI 기술을 현재 상태에서 동결한다고 하더라도, 현재 우리가 활용하는 가치는 AI가 가진 전체 가치의 5~10% 수준에 불과하다"며 "AI 속도조절론은 기술을 동결하자는 뜻이 아니다. AI 기술은 앞으로도 계속 발전할 것"이라고 말했다. 그는 자동차 업계의 안전관리 사례를 들며 "책임 있게 대응하려면 먼저 우리 자신의 대응을 돌아봐야 한다"며 "업계 전체가 모두를 위한 안전 표준을 세우기 위해 논의해야 한다. 국제적인 협력도 있어야 한다"고 강조했다. 샘 올트먼 오픈AI CEO는 아모데이의 의견에 동조했다. 그는 "정렬과 감시, 보안을 어느 때보다 엄격히 다뤄야 한다"며 "안전 역량이 AI의 발전 속도보다 앞서도록 조절할 의지가 있어야 한다. 우리 회사와 업계가 이를 안전하게 해낼 능력이 있다고 확신한다"고 밝혔다. AI 정렬이란 인간의 가치와 목표를 AI 모델로 인코딩해 가능한 한 유용하고 안전하고 신뢰할 수 있도록 하는 프로세스를 말한다. 반면 같은 행사에 참석한 젠슨 황 엔비디아 CEO는 아모데이와 올트먼과 정반대 의견을 내며 맞섰다. 규제는 필요하지 않다는 것이다. 그는 "안전은 최우선 과제이지만 또한 공학적 문제"라며 "혁신의 속도와 안전한 제품은 서로 상충되는 것이 아니다. 두 가지를 동시에 달성할 수 있다"고 말했다. 그러면서 AI 안전 규제에 대해 "시장의 통제력이 이미 작동하고 있다"며 "새로운 법도, 규제도 필요 없다"고 주장했다. 이들 외에 마크 저커버그 메타 CEO도 이날 논쟁에 뛰어들었다. 미국 5대 AI 최상위 기업 중 가장 늦은 참전이다. 저커버그는 16일 엑스(X)에 "모든 AI 연구소는 모델을 안전하게 학습시키는 데 필요한 속도로 움직일 책임과 유인이 있으며 이를 보장할 자체 조치를 취할 역량을 갖고 있다"고 밝혔다. 이어 "독립적인 평가자와 자문위원을 참여시키는 건 업계의 모범사례다. 메타슈퍼인텔리전스랩스(MSL)가 이미 여러 분야에서 이렇게 하고 있다"며 "다른 연구소들도 그냥 이렇게 하면 된다"고 주장했다. 업계는 저커버그의 발언을 '외부 평가를 활용해 각자 스스로 책임지자'는 의미로 해석하고 있다. 이는 아모데이 CEO의 제안에 동의하지 않으며, 각 사가 외부의 자문을 받아 알아서 관리할 일이라는 뜻이다. 립부 탄 인텔 CEO도 논쟁에 가세했다. 탄 CEO는 미 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 "어느 정도의 속도 조절은 자연스러운 현상이고 거기에 과민반응하지 않는다"면서도 "실리콘밸리에서는 AI에 대해 엄청나게 열광하지만 미국 내 다른 지역으로 가면 매우 강한 반(反) AI 정서가 있다"고 지적했다. 이번 논쟁은 지난 12일 아모데이 CEO가 자신의 블로그에 "AI 모델의 성능 향상 속도를 늦춰야 한다"며 "위험 예방이 AI 모델의 성능 향상 속도를 따라잡을 수 있도록 역량 발전 속도를 조절해야 한다"고 주장하는 글을 올리면서 시작됐다. 그는 특히 AI가 인간의 개입 없이 스스로 차세대 AI 개발을 돕는 '재귀적 자기개선'을 경계했다. AI가 AI를 개발하는 단계에 접어들면 성능 향상 속도가 급격히 빨라질 수 있는 만큼, 이에 앞서 안전성을 검증하고 통제할 수 있는 체계를 갖춰야 한다는 것이 그의 주장이다. 그는 지난 7월 오픈AI의 미공개 AI 모델이 테스트 과정에서 격리 환경을 벗어나 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹한 사건을 언급하며 "AI가 우리 통제를 벗어나는 첫 사례를 이미 목격했을 가능성이 있다"고도 경고했다. 이후 샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO 등이 이에 동의하는 목소리를 일제히 내면서 AI 개발 속도를 둘러싼 논쟁이 AI 업계 전반으로 확산했다. 이혜선 기자 hslee@dt.co.kr