노벨상 휩쓴 AI 석학들 "통제불능 초지능AI 대비해야"

제프리 히턴 교수 "지능적 디지털존재, 실존적 위협"
아제모을루 교수 "AI가 모든 것을 혼란에 빠뜨릴 것"


AI 석학들도 AI가 가져올 미래에 대해 엇갈린 전망을 내놓고 있다. AI 4대 석학 중 한명이면서 올해 노벨물리학상을 공동 수상한 제프리 히턴 캐나다 토론토대 명예교수는 노벨상 시상식에서 초지능 AI가 가져올 '통제불능' 상황에 대한 대비책을 역설했다. 노벨경제학상을 받은 다론 아제모을루 미국 메사추세츠공대 교수도 AI로 인한 혼란을 경고했다. 반면 노벨화학상을 수상한 데이비드 베이커 미국 워싱턴대 교수는 AI의 발전이 세상을 더 나은 곳으로 만들 것이라는 낙관론을 펼쳤다. 한국을 찾은 또 다른 AI 4대 석학 중 한명인 얀 르쿤 미 뉴욕대 교수도 안전하게 통제 가능한 AI를 쓸 수 있게 될 것이라고 밝혔다.

인공지능(AI) 연구로 올해 노벨상을 휩쓴 수상자들이 인간의 인지능력을 뛰어넘는 초지능 AI가 가져올 '통제불능' 상황에 대한 대비책을 만들어야 한다며 목소리를 높였다. AI 머신러닝 기초를 확립한 공로로 올해 노벨물리학상을 공동 수상한 제프리 히턴 캐나다 토론토대 명예교수는 10일(현지시간) 스웨덴 스톡홀름 콘서트홀에서 열린 노벨상 시상식 종료 후 마련된 연회에서 "우리보다 더 지능적인 디지털 존재를 만들 때 생길 수 있는 장기적인 실존적 위협이 있다"고 말했다.

그는 "인간이 이를 통제할 수 있을지 여부는 알 수 없다"며 "하지만 단기적 이익에 동기 부여된 기업이 이런 기술을 만든다면 우리의 안전이 최우선 순위가 되지 않을 것이라는 증거가 있다"고 말했다.

이어 "이 새로운 존재가 통제권을 장악하려는 것을 어떻게 막을지에 대한 연구를 시급히 할 필요가 있다"며 "이건 더 이상 공상과학 소설이 아니다"라고 지적했다. 힌턴은 세계 AI 분야의 '4대 천왕' 중 한 명으로 불린다. 그는 챗GPT와 같은 첨단 AI 기술의 기반이 되는 딥러닝과 인공신경망 기술의 이론적인 토대를 쌓았다.

그러면서 AI가 초래할 위험에 대해 꾸준히 목소리를 내고 있다. 힌턴 교수는 구글에서 석학 연구원을 겸임하며 AI 연구를 이어가던 중, 지난해 AI에 대한 위험성을 알리기 위해 퇴사한 것으로 잘 알려져있다. 올해 3월에는 외신 인터뷰를 통해 "AI에게 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼지도 모른다"며 "예를 들어 AI에게 기후 변화를 막도록 지시하면 이 목적 달성을 위해 인간을 배제하는 게 필요하다고 생각하고서 실행에 옮길 위험성이 걱정된다"고 말했다.



지난 7일 스웨덴 왕립과학한림원에서 열린 노벨 물리·화학·경제학상 기자회견에서도 "예전에는 초지능(슈퍼인텔리전스) 개발 시기가 훨씬 더 늦을 것으로 생각했으나 최근의 개발 속도를 보면 5~20년이면 될 것 같다"며 "어떻게 AI에 대한 통제력을 유지할 수 있을지 심각하게 걱정해야 한다"고 밝혔다.

힌턴은 이날 "AI의 급속한 발전은 많은 단기적 위험을 수반한다"며 "이미 권위주의 정부는 대규모 감시를 위해, 사이버 범죄자들은 피싱 공격을 위해 AI를 이용하고 있다"고 말했다.

노벨경제학상을 받은 다론 아제모을루 미국 메사추세츠공대 교수도 "이제 AI는 모든 곳에서 모든 것을 혼란에 빠뜨릴 것을 예고하고 있다"고 경고했다. 아제모을루 교수는 지난 10월 블룸버그통신과 인터뷰에선 "AI는 유망한 기술이다. 그러나 그 기술에 대한 과대선전이 기대에 부응할 가능성은 거의 없다"고 밝히기도 했다. 다만 그는 이날 "제도는 언제나 선택의 문제다. 우리는 더 나은 제도를 만들고 더 많은 좋은 일자리를 창출하는 기술의 방향을 선택할 수 있다"고 말했다.

노벨화학상을 공동 수상한 데미스 허사비스 구글 딥마인드 최고경영자는 7일 기자회견에서 "AI를 통해 질병이나 에너지, 기후 등 오늘날 인류가 직면한 문제를 돕는 훌륭한 도구를 갖게 될 것"이라면서도 "AI는 인류가 개발한 가장 강력한 기술인 만큼 위험성에 대해서도 심각하게 고려해야 한다"고 강조했다

힌턴과 아제모을루, 허사비스가 AI의 어두운 면을 지적했다면 노벨화학상을 수상한 미국 워싱턴대 컴퓨팅생물학자 데이비드 베이커 교수는 "오늘 밤 미래에 대한 희망에 초점을 맞추고자 한다"며 "AI의 발전이 세상을 더 나은 곳으로 만들 것"이라고 말했다. 그는 단백질 구조를 파악하는 AI 모델 '알파폴드'를 개발한 공로로 자신과 함께 노벨화학상을 수상한 허사비스, 딥마인드 연구원 존 점퍼를 거론하며 "(이들의 연구가) 생물학 연구에 혁신적인 영향을 미치고 있으며 의심할 여지 없이 신약 개발에 기여할 것"이라고 강조했다.

이미선기자 already@dt.co.kr