투자자 배리 딜러, AGI 거듭 우려…“올트먼 믿지만, 그건 중요치 않아”

억만장자 미디어 재벌 배리 딜러가 오픈AI가 추구하는 범용인공지능(AGI)에 대해 다시 한 번 우려를 나타냈다. 그는 오픈AI 최고경영자(CEO) 샘 올트먼을 신뢰한다면서도 “인류 수준을 넘어서는 범용인공지능(AGI) 시대에는 신뢰 자체가 중요하지 않을 수 있다”고 경고했다. 기술을 만드는 사람들조차 결과를 예측하지 못하는 상황에서, 핵심은 특정 인물의 도덕성보다 통제 불가능한 AI의 미래와 이를 제한할 안전장치라는 지적이다. 미국 테크 전문매체 테크크런치는 6일(현지시간) 배리 딜러가 월스트리트저널 주최 ‘퓨처 오브 에브리싱’(Future of Everything) 콘퍼런스에서 AGI와 AI 통제 문제에 대해 우려를 나타냈다고 보도했다. 배리 딜러는 최근 일부 전직 동료와 오픈AI 이사진으로부터 “조작적이고 기만적”이라는 비판을 받아온 올트먼에 대해선 선을 그었다. 그는 올트먼과 개인적으로 친분이 있다며, AI를 인류에 도움이 되는 방향으로 이끌고자 하는 진정성을 가진 인물이라고 평가했다. 하지만 딜러는 논의의 초점이 특정 인물을 신뢰할 수 있느냐에 머물러서는 안 된다고 강조했다. 그는 “AI의 진짜 문제는 신뢰를 훨씬 넘어선다”며 “일어날 일들이 그것을 만든 사람들조차 놀라게 할 수 있기 때문에 신뢰는 무의미해질 수 있다”고 말했다. 그는 특히 AGI를 “위대한 미지의 세계”라고 표현했다. AGI는 인간처럼 폭넓은 사고와 학습 능력을 갖추고, 거의 모든 영역에서 인간을 능가할 수 있는 이론적 AI를 뜻한다. 딜러는 “AI를 개발하는 사람들과 많은 시간을 보냈지만, 그들 역시 경외감 속에서 이 기술을 바라보고 있다”며 “우리도 모르고 그들도 모른다”고 말했다. 이어 “우리는 거의 모든 것을 바꿔놓을 무언가를 시작했다”며 “막대한 투자 규모 자체보다 중요한 것은 이 기술이 실제로 진전을 이룰 것이라는 점”이라고 진단했다. 현재 글로벌 빅테크와 투자업계는 AGI 경쟁에 수천억달러를 투입하고 있다. 오픈AI를 비롯해 구글, 메타 앤스로픽 등이 차세대 AI 패권 경쟁을 사활을 걸고 벌이고 있다. 딜러는 AI 업계 선두주자 대부분이 “유능한 관리자”라고 평가하면서도, 문제는 경영 능력이 아니라 인간이 아직 경험하지 못한 영역을 다루고 있다는 데 있다고 지적했다. 그는 “AGI가 등장하면 어떤 일이 벌어질지 아무도 모른다”며 “우리는 아직 그 단계에 도달하지 않았지만 점점 가까워지고 있다”고 말했다. 특히 그는 AGI 시대를 대비한 ‘가드레일’(안전장치) 구축 필요성을 거듭 강조했다. 인간 사회가 AI 통제 체계를 마련하지 못할 경우, “또 다른 힘, 즉 AGI 자체가 스스로 규칙을 만들게 될 수 있다”고 경고했다. 이어 “일단 그런 상황이 벌어지면 다시 되돌릴 수 없을 것”이라고 덧붙였다.