[손재권 칼럼] 손정의가 외친 ‘인공 초지능’, 동의하기 어렵다

손재권 더밀크 대표 손정의 소프트뱅크 회장이 지난 12월 5일 이재명 대통령을 만난 자리가 큰 화제가 됐다. 그는 김대중 대통령 시절에는 “브로드밴드, 브로드밴드, 브로드밴드”를, 문재인 대통령 시절에는 “AI, AI, AI”를 외쳤다. 이번에는 “ASI, ASI, ASI”를 강조했다. 인간의 모든 지적 능력을 압도적으로 능가하는 인공 초지능(Artificial Super Intelligence)이 다음 시대를 여는 열쇠라는 것이다. 손 회장은 세계적인 비저너리다. 과거 예측들이 한국 사회에 미친 영향을 생각하면, 그의 조언을 가벼이 여길 수 없다. 실제 브로드밴드는 한국을 IT 강국으로 만드는 인프라가 됐고, AI 투자 역시 현재 한국 기업들의 주요 전략이 됐다. 하지만 손 회장이 이번에 강조한 ASI는 이전과 다르다. 브로드밴드와 AI가 ‘다음 단계의 기술’이었다면, ASI는 단순히 ‘넥스트 AI’가 아니다. 손 회장 스스로 “인간 지능의 1만배”라고 정의한 ASI는 기술의 진화가 아니라 지능의 본질적 전환을 의미하기 때문이다. 손 회장이 언급한 ‘초지능’의 개념을 처음 정립한 옥스퍼드대 철학자 닉 보스트롬은 지난 2014년 출간한 ‘슈퍼인텔리전스’에서 초지능의 가능성과 위험을 분석했다. 그가 제기한 핵심 질문은 단순하지만 근본적이다. 만약 기계가 인간의 일반 지능을 뛰어넘는다면, 우리는 그것을 어떻게 통제할 것인가란 것이다. 보스트롬은 이 책에서 안전장치와 통제 메커니즘이 초지능 개발보다 먼저 확립돼야 한다고 강조했다. 만약 순서가 바뀌면, 즉 통제 방법을 모르는 채로 초지능이 먼저 등장하면, 그것은 인류에게 재앙이 될 수 있다. 고릴라의 운명이 고릴라 자신이 아니라 인간에게 달려있듯, 초지능이 등장하면 인류의 운명은 그 기계에게 달려있게 된다는 것이 보스트롬의 경고였다. 손 회장이 “너무나 똑똑해져서 한층 더 친절하고 사람들을 행복하게 해줄 것”이라는 낙관론은 무조건적인 비관론 만큼이나 근거가 빈약하다. 지능과 선의는 자동으로 연결되지 않기 때문이다. 손 회장은 “ASI가 언제 등장할 것인가를 질문해야 한다”고 말했다. 하지만 그 이전 단계인 AGI(범용 인공지능)조차 명확한 정의가 없다. 오픈AI는 AGI를 5단계로 나누지만 다른 연구자들은 다르게 본다. 무엇이 ‘범용’인지, 어떤 기준으로 ‘인간 수준’을 판단할지에 대한 합의가 없다. ASI는 어떤가? 손 회장이 언급한 “인간 지능의 1만배”라는 정의는 측정 가능한 지표가 아니다. 체스나 바둑에서 인간을 이기는 것은 특정 영역의 초월이지, 일반 지능의 1만배가 아니다. 창의성, 판단력, 공감 능력을 어떻게 1만배라고 측정할 수 있겠나. 손 회장이 제시한 ASI 개념은 기술적 목표라기보다는 은유에 가깝다는 뜻이다. 더 근본적인 문제는 불확실성이다. 현재 LLM(대규모 언어모델)의 발전 속도를 봐도 AGI로 가는 경로조차 불명확하다. 스케일링 법칙, 즉 데이터와 컴퓨팅 파워를 늘리면 자동으로 지능이 향상된다는 가정이 한계에 부딪히고 있다. 여기서 초지능으로 도약하는 건 완전히 다른 차원의 문제다. 손 회장이 제시한 2030년, 즉 5년 안에 AGI를 거쳐 ASI까지 도달한다? 이는 기술 발전에 대한 극단적 낙관론이다. 물론 손 회장이 틀릴 수도 있다는 걸 그 자신도 알 것이다. 문제는 이런 담론이 만드는 사회적 파급력이다. ASI 담론의 가장 큰 문제는 사회적 준비 없이 공포와 과대평가를 동시에 만든다는 것이다. 일반 시민들은 자신의 일자리가 사라질까 봐 두려워한다. 동시에 기업들은 검증되지 않은 미래에 과도하게 베팅하게 된다. 이 두 가지 모두 건강하지 않다. 이재명 대통령이 손 회장에게 “과학 분야뿐 아니라 노벨문학상까지 ASI가 석권하는 상황이 오겠느냐”고 물었을 때, 그 질문에는 많은 사람들의 불안이 담겨 있었다. 인간의 고유한 가치, 창의성의 의미, 노동의 존엄성 같은 것들이 어떻게 될지에 대한 불안 말이다. 손 회장의 비전은 존중한다. 그의 과거 예측들이 맞았던 것도 사실이다. 하지만 ASI는 브로드밴드나 현재의 AI와는 다른 차원의 문제다. ASI를 ‘넥스트 AI’로 받아들이는 것은 위험하다. 한국이 집중해야 할 것은 검증 가능하고 실현 가능한 기회들이다. 예를 들어 피지컬AI, 즉 하드웨어와 소프트웨어를 결합한 지능형 시스템은 한국의 제조업 강점을 살릴 수 있는 현실적 기회다. LLM 스케일 경쟁에서 미국, 중국을 이기기는 어렵지만, 로봇, 자율주행, 스마트 팩토리 같은 영역에서는 충분히 경쟁력을 가질 수 있다. 이는 샘 올트먼 오픈AI CEO, 젠슨 황 엔비디아 CEO 등이 올해 내한해서 말한 공통 분모다. 손 회장의 조언을 경청하되, 우리 것으로 만드는 지혜가 필요하다. ASI라는 개념 자체를 부정하는 것이 아니라, 그것이 ‘임박했다’는 주장과 ‘걱정할 필요 없다’는 낙관론에 대해서는 건강한 회의(懷疑)를 유지해야 한다는 말이다. 그것이 진정 ‘슈퍼인텔리전스’ 시대, 책임 있는 AI 시대를 준비하는 자세일 것이다.