IAAE, ‘2025 ASC 컨퍼런스’ 개최
한국, AI 글로벌 3위권 진입 전환점
"신뢰성 없인 AI 경쟁력 확보도 어려워"
"자동차가 고장 나는 것보다 더 위험한 건 운전자가 차를 과신하는 것입니다. 인공지능(AI)도 마찬가지입니다. 시스템이 얼마나 정확하냐보다 우리가 그것을 어디까지 믿어도 되는지를 아는 것이 먼저입니다."
김명주 AI안전연구소장은 27일 서울 강남구 구글 스타트업 캠퍼스에서 열린 '2025 ASC(AI Safety Compass) 컨퍼런스'에서 "AI 안전은 규제의 문제가 아니라 글로벌 경쟁력을 높이는 전략적 요소로 봐야 한다"며 이같이 강조했다.
이번 행사에는 과학기술정보통신부, 한국과학기술정보연구원(KISTI), AI안전연구소 등 공공기관을 비롯해 LG유플러스, 원티드랩, 셀렉트스타, AI3 등 다양한 기업이 참여했다. 금융, 교육, 법률 등 다양한 산업군 관계자 약 130여명이 참석했다.
김 소장은 AI 시스템이 아무리 높은 성능을 보여도 그것을 어디까지 신뢰할 수 있는지를 판단하지 못하면 현실에선 오히려 더 큰 위험으로 이어질 수 있다고 지적했다. 현재 국내에서는 AI 모델의 성능을 수치로 평가하는 기준은 마련돼 있지만 '어디까지 믿어도 되는가'라는 신뢰 기준은 존재하지 않는다는 것이다.
그는 "많은 기업들이 자사 모델을 실험실에서 검증했다고 주장하지만 실제 환경에서도 신뢰 가능한지는 별개의 문제"라며 "우리는 아직 AI 시스템이 신뢰 가능한 수준인지 검증할 공적 기준을 갖추지 못하고 있다"고 말했다.
AI안전연구소는 이런 문제를 해결하기 위해 현재 AI 리스크 맵과 정량적 평가 기준을 개발 중이다. 특정 모델이 어떤 환경에서 어느 수준까지 신뢰할 수 있는지를 수치화해 판단할 수 있도록 하는 것이 핵심이다. 김 소장은 "기술이 아무리 뛰어나도 신뢰받지 못하면 의미가 없다. 앞으로는 기술 성능뿐 아니라 얼마나 신뢰할 수 있는지를 입증할 수 있는 시스템이 경쟁력이 될 것"이라며 "한국 역시 기술 경쟁력 못지않게 안전성과 책임성을 확보해야 글로벌 AI 강국으로 도약할 수 있다"고 강조했다.
이날 또 다른 발제자로 나온 공진호 과기정통부 인공지능기반정책과장은 "기술의 경쟁력만으로는 부족하다"며 "AI의 신뢰성과 안전성을 확보하지 못하면 국제 무대에서 지속가능한 경쟁력을 갖추기 어렵다"고 강조했다.
그러면서 "전 세계 AI 패권 경쟁이 가속화되는 가운데, 한국 역시 글로벌 3위권 진입을 위한 전략적 전환점에 서 있다"며 "AI 인프라, 고급 인재, 규제·윤리 기반까지 동시에 구축하는 균형 잡힌 정책이 필요하다"고 덧붙였다.
과기정통부는 이를 위해 1조9000억원 규모의 추가경정예산을 편성해 첨단 GPU 1만8000장을 확보하고, 국가 AI 컴퓨팅 센터를 구축하는 한편 AI 반도체 개발과 차세대 대형언어모델(LLM) 육성, 고급 인재 양성 등에 정책 역량을 집중하고 있다.
특히 내년 1월 시행 예정인 AI 기본법과 관련해 산업 진흥과 규제의 조화를 통해 기업이 신뢰받는 AI를 개발·운영할 수 있도록 제도 기반을 정비 중이다. 공 과장은 "하반기에는 AI 안전성 평가 가이드라인을 마련하고 정책센터와 안전연구소를 중심으로 체계적인 지원체계를 구축할 것"이라며 "기본법 시행 이전이라도 산업계의 혼란을 줄이고, 기업이 신뢰할 수 있는 제도 기반을 선제적으로 마련하겠다"라고 말했다.
이경하 한국과학기술정보연구원(KISTI) 초거대AI연구센터장은 AI 기술이 과학의 전 과정을 자동화하는 새로운 패러다임에 대해 발표했다. 그는 "현재 오픈AI, 구글 딥마인드, xAI 등이 출시한 대형언어모델은 20페이지 이상의 전문 분석 보고서를 자동 생성할 수 있을 만큼 발전했다"며 "일반인과 전문가 사이의 경계가 허물어질 가능성이 높다"고 말했다.
아울러 AI 기술이 과학계에도 빠르게 침투하고 있는 만큼 데이터 저작권과 생성물의 지식재산권 문제, 출판윤리 등 제도적 정비가 뒤따라야 한다고 강조했다. 그는 "과학계 내부에서도 AI 활용에 대한 의견이 엇갈리고 있다"며 "저작권과 윤리 문제에 대한 심도 있는 검토가 필요하다"고 지적했다.이날 기업 세션에서는 산업 현장의 AI 도입 사례와 전략이 소개됐다. 한영섭 LG유플러스 AI테크랩장과 주형민 원티드랩 AX사업 총괄은 각 사의 AI 전환 경험과 사업 모델을 공유했다. 황민영 셀렉트스타 부대표는 AI 도입 시 정확성과 안정성 확보 방안을, 표철민 AI3 대표는 기업용 GPT 서비스 '웍스 AI'의 개인정보 보호와 내부통제 전략을 제안했다.
전창배 국제인공지능윤리협회(IAAE) 이사장은 "생성형 AI가 일상과 산업을 빠르게 변화시키고 있는 만큼 기업과 사회가 함께 윤리와 법제도의 방향성을 설정할 시점"이라며 "이번 ASC가 산업 현장의 목소리를 반영해 AI 기본법 시행 이후 구체적 정책 설계에 기여하길 기대한다"라고 말했다.
유진아기자 gnyu4@dt.co.kr
김명주 AI안전연구소장이 27일 서울 강남구 구글 스타트업 캠퍼스에서 열린 '2025 ASC 컨퍼런스'에서 발표하고 있다. 팀쿠키 제공
