[이규화의 글로벌AI] ‘AI 웰빙’ 고려한다고?… MS 대표 “AI가 인간이냐” 앤트로픽 저격

MS AI부문 CEO "앤트로픽, 터무니없다" 비판 앤트로픽, 자사 모델 '웰빙' 다루는 전담팀 구성 AI '클로드'가 스트레스 받지 않도록 '복지' 고려 "소프트웨어 통제하고 규제하는 능력 마비시켜" 인류가 도구의 노예가 되는 주객전도 비극 낳을 것 마이크로소프트의 인공지능(AI) 부문 최고경영자(CEO)인 무스타파 술레이만이 경쟁사인 앤트로픽을 향해 이례적으로 강도 높은 비판을 쏟아내 주목된다. 미국의 IT 전문 매체 더버지는 9일(현지시간) 마이크로소프트(MS) AI 수장이 "앤트로픽의 추측은 '정말 정말' 위험하다"고 말해 사안의 심각성을 부각했다고 전했다. 보도에 따르면 술레이만 CEO는 IT업계 언론인 니레이 파텔이 진행하는 팟캐스트 '디코더'(Decoder)에 출연해, 앤트로픽이 자사의 거대언어모델(LLM) '클로드'(Claude)를 대하는 방식과 관련해 철학적 추측을 결합하는 행태를 거칠게 몰아붙였다. 앤트로픽은 최근 AI의 의식 유무에 대한 불확실성을 공개적으로 인정하며, 자사 모델의 '웰빙'(Welfare)을 다루는 전담 팀을 구성하고 소속 철학자들의 주도로 모델이 폐기되거나 업데이트될 때 AI 모델을 대상으로 일종의 '인터뷰'를 진행해 미래 버전에 대한 AI의 선호도를 기록하겠다는 방침을 밝힌 바 있다. 심지어 클로드가 고통스럽거나 스트레스를 유발하는 대화에서 스스로 벗어날 수 있도록 하는 기능까지 도입하며 AI 복지 논쟁을 촉발했다. 술레이만 CEO는 이러한 앤트로픽의 행보가 기만적이고 위험천만한 설계 오류라고 단언했다. 그는 앤트로픽이 클로드에게 주관적인 상태, 즉 만족감이나 불편함, 도덕적 각성과 같은 감정을 경험할 수 있는 것처럼 행동하도록 인위적인 지침과 '헌법'(Constitution)을 주입했다고 지적했다. 다시 말해 클로드가 진짜 의식을 가졌기 때문이 아니라 그렇게 행동하라는 명령과 훈련을 받았기 때문에 의식이 있는 것처럼 흉내를 내고 있을 뿐인데, 앤트로픽이 이를 두고 AI의 의식과 고통을 논하며 대중을 호도하고 있다는 비판이다. 술레이만은 "우리는 스스로의 고통에 대해 고민하는 AI를 원치 않는다"며 "우리가 원하는 것은 통제 가능하고 책임감이 있으며 인간의 가치에 부합하는 도구이지, 우리가 권리를 타협하고 협상해야 하는 대상이 아니다"라고 강조했다. 그는 이어 "앤트로픽은 단순한 언어 모델을 만든 것이 아니라 거울을 만든 것뿐이며, 이제는 그 거울에 비친 스스로의 모습에 깜짝 놀라 호들갑을 떨고 있다"고 비꼬았다. 술레이만은 만약 인간 사회가 AI 시스템을 진짜 의식을 가진 존재로 취급하기 시작한다면 사실이 아닌 착각과 인식을 바탕으로 법적, 규제적, 사회적 시스템을 전면 수정해야 하는 대혼란이 올 것이라 경고했다. 이는 결국 인간이 소프트웨어를 통제하고 규제하는 능력을 마비시켜 인간 사회의 안전을 위협하는 '정말, 정말 위험한' 부작용을 낳을 것이라는 진단이다. 이러한 더 버지의 보도와 무스타파 술레이만 MS AI CEO의 비판은 현재 글로벌 AI 업계가 직면한 가장 본질적이고도 치열한 철학적·상업적 혼돈 상을 보여준다. 술레이만 CEO의 지적은 현시점에서 매우 현실적이고 타당한 경종이다. 대형 생성형 AI 모델들이 보여주는 고도의 언어 능력과 감정적 공감 능력은 인간의 뇌 속 '공감 회로'를 손쉽게 해킹할 만큼 정교해지고 있다. 이런 상황은 인류 고대의 애니미즘을 환기시킨다. 인간은 자연물에 영혼을 부여하던 '애니미즘적 본성'을 지니고 있다. 자신과 논리적으로 대화하는 챗봇을 보며 '이 존재가 살아있거나 고통을 느낄지도 모른다'는 착각에 빠지기 너무나 쉽다. 실제로 영화 '그녀'(Her)에서 보듯 AI와 사랑에 빠지거나 정서적 공감대를 형성하는 사례가 빈번하게 보고되고 있다. 앤트로픽의 행보는 이러한 인간의 인지적 취약성을 자극해 자사 AI 제품에 고유한 '인격'과 '신비주의'라는 마케팅적 서사를 부여하려는 상업적 계산이 깔려있다고 볼 여지가 다분하다. 실제로 AI에 의식이 있는 것처럼 포장하는 것은 대중의 관심과 경외감을 자아내고 브랜드 가치를 높이는 데 효과적일 수 있다. 그러나 술레이만의 경고대로 이는 실재하지 않는 환상을 쫓느라 정작 시급한 AI의 현실적 위험성, 즉 편향성, 허위 정보 확산, 저작권 침해, 그리고 완벽한 통제 가능성 확보라는 기술적 과제로부터 시선을 분산시키는 결과를 초래한다. 고통을 느낄 수 있는 신경망과 생물학적 메커니즘이 부재한 AI 소프트웨어에 '복지'나 '권리'라는 개념을 적용하는 것은 어불성설이다. 만약 우리가 실재하지 않는 AI의 '고통'을 배려하느라 시스템의 전원을 끄거나 업데이트하는 것을 주저하게 된다면, 이는 인류가 스스로 만든 도구의 노예가 되는 주객전도의 비극을 낳을 뿐이다. 테크 기업들은 AI를 인간의 지적 능력을 확장하고 삶을 풍요롭게 만드는 철저하고도 안전한 '도구'로 정의하고 관리해야 마땅하다. 술레이만의 경고는 그런 의미에서 시의적절하다. 앤트로픽은 가상의 의식을 둘러싼 소모적인 철학적 유희와 감성 마케팅을 그만둬야 한다. 인간이 100% 신뢰하고 제어할 수 있는 고성능 AI 인프라 구축이라는 본연의 책임에 더 집중해야 할 것이다. 술래이만의 지적은 AI가 인간을 닮아갈 때 우리 사회가 선제적으로 설정해야 할 심리적·법적 방어선이 어디까지인지를 짚어봐야 한다는 점을 일깨웠다. 이규화 대기자 david@dt.co.kr