이경탁 ICT과학부 블록체인팀장
![[DT현장] AI가 준수해야 할 윤리](http://contents.dt.co.kr/images/201812/2018120602102269041001[1].jpg "[DT현장] AI가 준수해야 할 윤리")
"인공지능(AI) 활용에 앞서 윤리가 우선시돼야 한다."
지난달 방한했던 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 한국에 던진 화두였다. 당시 현장에서 그의 이러한 기조연설을 듣고는 내심 실망감을 느꼈다. 비록 행사 주제가 AI였지만, 16년 만에 글로벌 시가총액 1위 자리를 탈환하며 승승장구하고 있는 기업의 세계적 경영자가 어떤 메시지를 전할까 기대했던 것에 비해 현실과 동떨어진 이야기처럼 들렸기 때문이다.
사티아 나델라가 이렇게 추상적인 주제를 꺼내며 시종일관 강조했던 이유는 무엇일까. 방안에서 다시 곰곰이 생각해보니 'AI 윤리'야말로 현재가 아닌 가까운 미래에 인류에게 닥칠 수 있는 가장 시급한 위험요소일 수 있기 때문이다. 모두가 알다시피 AI 기술 발전은 거스를 수 없는 흐름이다. 현재 PC·스마트폰·스피커·그 외 가전기기 등에 AI 기능이 탑재되며 우리 생활에 편리함을 주고 있다. AI가 그동안 인류의 친구이자 가장 오랜 동반자였던 반려견의 자리까지 대체할지도 모른다. 앞으로 자동차, 병원, 공장과 같은 다양한 장소에서도 AI를 통해 '수동적인 자동화'가 아닌 '능동적인 자동화'가 빠른 속도로 이뤄질 것이다.
업무 특성상 가장 보수적일 수 밖에 없는 국방 분야까지 이런 흐름에 동참하고 있다. 최근 취재 차 판교에 위치한 인공지능연구원(AIRI)에 다녀왔다. 이날 AIRI는 그동안 연구 개발한 결과물을 일부 공개하는 데모데이 행사를 가졌다. 이럴 때면 으레 찾아오는 지역구 국회의원도 보였지만 별로 관심이 가지 않았다.
눈길을 끌었던 것은 데모데이 브리핑을 듣기 위해 군복을 입고 줄지어 들어온 손님들이다. 그 중에서도 꽤 높아 보이는 이가 기자와 바로 정면에 마주보며 앉았는데 아니나 다를까 흔히 "군대에서 한 마디면 산도 바로 깎는다"는 투스타 계급장을 달고 있었다. 해군 출신으로 지난해 국군사이버사령부(현 사이버작전사령부) 사령관으로 임명된 김종일 소장이다.
과거 군 복무 시절 경험 때문인지 "간부들은 PPT를 띄어놓고 설명만 하면 지루한 표정으로 듣다가 잠이 든다"는 인식이 있었지만, 김 소장은 전혀 다른 모습이었다. 학교에 갓 입학한 학생같이 호기심 가득한 표정으로 설명을 듣고 같이 브리핑 자리에 있던 다른 사람들의 질문까지 매우 집중하며 경청했다.
이 이야기를 과기정통부의 한 공무원에게 전하자 최근 군에서 AI 기술에 대한 관심이 부쩍 늘고 있다고 설명했다. 국방부는 자체적인 AI 연구소 설립 계획과 함께 여러 관련 기업과의 협력을 통해 AI 기반 전투체계를 구축, 첨단 과학기술군을 육성한다는 방침이다.
세계 주요 강대국 모두 이와 유사한 정책을 진행 중이거나 펼치게 될 만큼 한국 또한 당연히 추진해야 할 국방 발전 전략이다. 문제는 AI 수준이 갈수록 고도화 되는 가운데 관련 기술들이 전투체계에 지속해 적용된다면 우리가 전혀 예측할 수 없는 방향으로 흐를 수 있다는 우려다. 가상현실(VR)과 AI 등을 소재로 한 일본 애니메이션 '소드아트온라인'에서는 가까운 미래에 충분히 현실화될 법한 이야기가 나온다. 만화 속에서 일본 자위대가 인간 뇌 해독에 성공한다. 그리고 갓 태어난 실제 신생아들의 뇌와 뉴런 데이터를 복사해 AI로 구현한 뒤 현실처럼 만들어진 VR 환경에서 전투용 군인으로 육성하는 프로젝트를 진행한다.
방대한 데이터를 특정 알고리즘이 지속 학습하며 발전하는 하향식 AI가 아닌 인간의 사고방식 체계와 다를 바 없는 상향식 AI 개발 이론이다. 비학습 된 상황이 닥치면 대응 자체가 불가능한 하향식 AI와 달리 진짜 사람처럼 어떠한 상황에서도 적절한 대응이 가능하다. 이렇게 개발된 AI는 마치 인간의 영혼과도 같다고 볼 수 있다. 이에 현실 세계에 있는 성인의 뇌를 복사하면 복사된 데이터의 자아가 상황을 못 받아들이며 붕괴하기에, 신생아의 뇌 복사를 선택한 것이라고 한다. 특수 VR 환경에서 '실험용 쥐'와 다를 바 없이 성장하게 되는 AI들은 자신이 서버 안의 데이터 조각인지를 전혀 인지하지 못한다.
앞으로 군 복무기간이 단축되고 출산율 감소 현상이 더욱 심화되며 복무를 할 인력이 갈수록 부족할 수 밖에 없는 상황 속에서 만화영화에나 나오는 이런 허무맹랑한 논의가 실제로 이뤄질지 알 수 없는 노릇이다. 이와는 아직 비교될 수 없지만 얼마 전 중국 정부가 뛰어난 청소년 영재를 선발해 AI 무기 개발에 투입한다는 뉴스가 나오기도 했다.
고도화된 강력한 AI가 비단 국방분야 뿐 아니라 다양한 분야에 악용되며 인류를 파멸로 이끌 수 있다고 고(故) 스티븐호킹 박사 등 세계적 저명 인사들이 여러차례 경고한 바 있다. AI 발전 속도를 누구도 예측할 수 없는 만큼 악용되는 것을 막기 위해서라도 정부 차원에서 선제적이고 강력한 AI 윤리기준 마련 및 법제화가 시급하다. 인간도 어릴 적 도덕 교육을 충분히 거쳐야 인성을 갖춘 사람이 될 수 있는 것처럼 AI도 인류의 보편적 윤리기준을 통해 개발 및 학습돼야만 이로울 것이다. 나쁜 데이터를 학습한 AI가 어떤 사고체계를 갖추고 행동하는지는 AI 로봇 '소피아'와 MS의 챗봇 '테이'를 통해 증명된 바 있다.
이미 유럽연합(EU)은 '인종과 성 차별 금지' 등을 담은 AI 윤리지침 초안을 지난달 마련했다. 일본 정부도 올해 안으로 AI의 판단에 대해 해당 기업에 설명과 책임을 부과하는 것을 주요 골자로 하는 'AI 활용에 관한 7가지 원칙'을 제정하고 관련 법률을 정비한다. 또한 이를 내년 6월 오사카에서 열리는 G20 정상회의에서 다른 국가들의 동참을 이끌어낸다는 계획이다.
우니라나도 행정안전부와 산업부 등이 각각 '정부 AI 서비스 활용 윤리 가이드라인', 'AI 윤리헌장' 등을 준비 중이다. 마오쩌둥의 문화대혁명으로 전통적 정신문화가 파괴되며 윤리가 무너진 중국과 달리 한국 사회는 '측은지심'을 사람다움의 근본으로 보는 유교 윤리의 좋은 점들이 남아있다. 이와 같은 특색과 근본을 잘 살려 AI 윤리 기준을 마련한다면, 세계적인 본보기는 물론 4차 산업혁명의 중심국가로 자리 잡을 수 있을 것으로 기대된다.
이경탁 ICT과학부 블록체인팀장 kt87@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
