김진형지능정보기술원원장, KAIST 명예교수
![[이슈와 전망] AI 능력과 치명적 한계](http://contents.dt.co.kr/images/201709/2017091802100151607001[1].jpg "[이슈와 전망] AI 능력과 치명적 한계")
이세돌을 물리친 1년 후, 알파고는 더욱 발전된 모습으로 돌아와서 중국의 챔피온 커세를 완파했다. 이세돌과의 대국 이후 1년간 알파고는 스스로 실력을 향상시켜서 이제는 인간이 도저히 이길 수 없는 수준이 됐다. 이세돌이 알파고를 이긴 유일한 인간이다. 알파고는 더 이상 사람과 대결하는 것이 의미가 없다는 듯 은퇴를 선언하고 바둑계를 떠났다.
인간 고수들의 수를 배워서 알파고의 초기 버전을 만들었지만 그 후에는 알파고끼리 스스로 대국을 하게 하여 거기서 수를 배우는 강화학습이 큰 역할을 했다. 알파고 개발자가 던진 말이 충격이다. 개발 초기에 제공된 전문가의 지식은 별로 중요하지 않았다는 것이다. 올바른 지식이 주어진다면 조금 빠르게 배웠겠지만, 그렇지 않아도 알파고는 결국 최고의 수를 배운다는 것이다.
알파고에서 사용된 강화학습 기법이 과학기술의 발전에 큰 전기를 만들었다. 기계가 기계들 간의 경쟁을 통해서 배움으로써 인간보다 더 높은 수준의 경지에 다다를 수 있다는 것이다. 이러한 능력의 인공지능에 전율을 느끼지 않는가? 지식의 축적에서 사람이 배제되는 상황이다. 이는 인류 문명사의 커다란 사건이다. 지금까지 지식이란 사람만이 만드는 것이었는데.
이러한 인공지능의 능력은 인류가 쌓아 왔던 문명사회의 제도와 조직을 일 순간에 무너트릴 수 있다. 주식을 사고파는 투자전략 수립에서 인공지능이 전문가보다 우수한 능력을 보인다. 우수한 인공지능 알고리즘의 확보가 재산의 축적과 직결되는 것이다. 이러한 상황에서 주식시장이 있어야 하는가? 주식 시장이 우리 사회에 공헌했던 것이 있었겠지만 더 이상 존재 가치가 없어졌다. 이 투자전략 수립에도 알파고와 유사한 강화학습 기법을 사용했을 것으로 예측된다. 이러한 인공지능을 갖춘 한 투자은행에서는 올 초에 600명의 펀드 매니저를 해고 시키고 두 명만 남겼다고 한다.
이제 인간이 기계로부터 배우는 것이 일상이 될 것이다. 기계가 습득한 지식을 사람이 전수받는 것이다. 올 봄 알파고는 50개의 기보를 남기고 은퇴했다. 이제는 프로 바둑 기사들은 알파고의 수를 배우고 익혀야 동료들에게 이길 수 있다.
진료에 바쁜 의사들은 넘쳐나는 의학지식을 다 습득할 수 없다. 인공지능이 대신 그 논문들을 읽고 정리해 의료진단시스템으로 만든다. 그러면 의사들은 이 시스템으로부터 진료 기법을 배워야 할 것이다. 선배 의사로부터 실무를 배우던 인턴, 레지던트라는 수습 과정이 다 이상 필요없다. 그 시간에 인공지능 시스템 사용 연습을 해야 할 것이다.
물론 인공지능에게도 한계가 있다. 인공지능을 만드는 방법론에 따라 다른 약점을 보인다. 특히 요즘 각광 받는 데이터 기반의 기계학습 인공지능은 놀라운 성과도 있지만 치명적인 약점도 많이 보이고 있다.
기계학습 인공지능이 도출하는 의사결정의 품질은 얼마나 많은 데이터로, 또 어떤 품질의 데이터로 학습을 시켰는가가 결정한다. 학습데이터양이 적으면 일반화 능력이 부족하다. 즉 새로운 상황에서 옳은 판단을 내리지 못한다. 쓰레기 같은 엉터리 데이터로 학습을 시키면 엉터리 결론이 나올 수 밖에 없다.
현재의 기계학습 방법론은 결론이 어떻게 해서 도출되었는지 설명을 못한다. 어디까지 할 수 있는지 그 한계도 모른다. 훈련된 인공지능이 통계적으로 잘하더라는 것을 보여주는 것이 전부다. 이런 시스템에게 우리 인류의 생존을 좌지우지하는 중요한 결정을 맡길 것인가? 또 기계학습 인공지능은 개발자의 의도대로 발전하지 않을 가능성이 있다. 스스로 학습하는 기능과 배워야 할 데이터를 찾아가는 능력이 결합되니 인간이 원치 않는 것을 배울 가능성이 높아지는 것이다. 인터넷 상에서 불온한 내용을 배워 듣기 거북한 쌍소리를 내뱉었던 채팅로봇이 있었고 중국에서 제작된 인공지능이 중국 공산당을 비하하는 발언을 해 개발자를 당황하게 만든 사건도 있다. 그래서 인공지능을 감시하거나 안전하다는 인증을 해야 한다는 주장도 나온다.
어느 영역에서 어떤 업무를 하든지 인공지능의 능력과 한계를 정확히 이해하는 것이 중요하다. 허황한 기대도 문제지만 기술의 가치를 이해하지 못함으로 인한 기회 상실은 더 큰 문제다. 특히 정책을 입안하는 사람들은 인공지능에 관한 깊은 이해가 필요하다.
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
