AI 위협 사전에 대비한다…국가 AI안전연구소 출범

AI안전연구 전담조직 탄생
산학연 24곳 협력 컨소시엄
미·영국 등에 이어 5번째로 출범
딥페이크와 사이버 해킹 등 인공지능(AI)의 악용 가능성에 대응하기 위한 연구 전담조직인 'AI 안전연구소'가 출범했다. 기존 AI 연구가 기술의 발전과 문제 해결에 초점을 맞췄다면, AI 안전 연구는 기술이 초래할 수 있는 위험을 사전에 예측하고 신뢰성과 안정성을 확보하는 데 집중한다. 정부는 AI 안전연구소를 국내 AI 안전연구 중심지로 자리매김시키고 관련 국제 협력도 확대할 계획이다.

◇전세계 AI 안전 열풍…AI 범죄 차단한다= 27일 과학기술정보통신부는 경기 성남 판교글로벌R&D센터에서 'AI 안전연구소' 개소식을 개최했다.

최근 AI 기술의 급격한 발전과 함께 딥페이크 영상 생성, 허위 정보 유포, 사이버 공격 등 AI를 악용한 사례가 늘어나면서, 안전성 확보가 점점 더 중요한 과제로 떠오르고 있다. 특히 챗봇 기술이 보편화되면서 허위 정보를 생성하거나 자동화된 사이버 공격 도구로 악용하는 사례가 늘면서 기존 보안체계의 취약성을 드러내고 있다. 이런 기술 악용은 개인의 프라이버시 침해뿐 아니라 기업과 국가의 보안 시스템에 심각한 위험으로 대두되고 있다.

AI 윤리도 중요한 과제로 떠올랐다. AI 알고리즘의 편향성과 의사결정 과정의 불투명성은 사회적 불평등을 심화시킬 우려를 낳는다. AI가 통제력을 벗어나 의도치 않은 결과를 초래할 위험성도 지속적으로 제기된다. 이에 대응해 주요 국은 AI 안전성을 강화하기 위한 규제를 도입하고 국제 협력을 강화하고 있다. AI 서비스는 전 세계 이용자를 대상으로 하는 만큼 규제도 전 세계적으로 통용될 가능성이 높다. 영국은 정부 주도로 AI 안전연구소를 설립해 자국 AI 기업의 규제 대응을 지원하고 있다. 미국, 일본 등도 AI 안전연구소를 통해 글로벌 협력에 나서고 있다.

◇"AI안전연구소는 규제기관 아닌 협력기관"= AI안전연구소는 지난 5월 'AI서울정상회의'의 후속 조치로 출범했다. 당시 10개국 정상은 안전이 책임 있는 AI 혁신을 위한 핵심 요소임을 확인하고, AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력의 중요성에 뜻을 모았다. 윤석열 대통령은 당시 "대한민국 AI안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것"이라고 밝혔다. 이후 과기정통부는 연구소 조직·예산·인력·기능에 대한 사전 준비작업을 해왔다.

AI안전연구소는 AI 위험에 대응하는 전담 연구조직으로, 영국, 일본, 미국, 싱가포르에 이어 5번째로 출범했다. AI의 기술적 한계, 인간에 의한 AI 기술 오용, AI 통제력 상실 등 AI가 초래할 수 있는 다양한 위험에 체계적이고 대응하는 게 목표다. 산학연의 AI 안전 연구협력과 정보교류의 허브로서, 현재 미국·일본 등 10개국이 참여 중인 '국제 AI 안전연구소 네트워크' 일원으로 활동하게 된다. 삼성전자, LG, 네이버, 카카오, KT, SK텔레콤 등 국내 대표 ICT 기업들도 '대한민국 AI안전 컨소시엄'에 참여해 AI 안전성 관련 협력 체계를 구축한다.

초대 소장으로 임명된 김명주 소장은 "AI 활용으로 발생할 수 있는 제반 위험 평가와 이를 예방·극소화하기 위한 정책·기술을 개발·보급하고, 국내외 연대를 강화할 것"이라며 "연구소는 규제기관이 아니라, 국내 AI기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소들을 최소화하도록 지원하는 협력기관으로 역할을 할 것"이라고 강조했다.

◇"AI 안전 확보, 국제협력이 필수"= 개소식에는 국내외 AI 전문가들이 참석했다. AI 분야 세계적 석학이자 국가AI위원회 글로벌 자문위원인 요슈아 벤지오 캐나다 몬트리올대 교수는 "AI안전연구소는 업계와의 협업을 통한 위험 평가방법 연구·발전, AI안전성 요건 수립 지원, 국제협력을 통한 AI안전체계 상호 조화 등의 역할을 해야 할 것"이라고 말했다. 엘리자베스 켈리 미국 AI안전연구소장은 "한미 AI 안전연구소가 전 세계 동료들과 함께 AI 위험을 줄이고 혜택을 극대화하며 혁신을 촉진하기 위해 공통된 과학적 기준을 구축해 나가길 바란다"고 했다. 올리버 일롯 영국 AI안전연구소장, 아키코 무라카미 일본 AI안전연구소장도 국경을 넘어선 협력 확대의 필요성을 강조했다.

개소식에는 류광준 과기부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이경우 대통령실 AI디지털비서관 등 정부 주요 인사와 오승필 KT CTO(최고기술책임자), 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성연구센터장, 방승찬 ETRI(한국전자통신연구원) 원장 등 AI분야 산학연 핵심 관계자 40여명이 참석했다.

유상임 과기정통부 장관은 "AI안전연구소를 중심으로 산학연 연구역량을 결집해 AI안전의 기술·정책적 역량을 조속히 확보해 AI산업 혁신을 촉진하는 튼튼한 안전 기반을 구축할 것"이라며 "글로벌 AI안전 연대의 주도적 역할을 수행해 아태지역을 대표하는 AI안전 연구허브로 발전하도록 지원할 것"이라고 했다.

글·사진=유진아기자 gnyu4@dt.co.kr