[주목!이법안] "AI 개발·이용 기본원칙 필요… 분쟁조정위 설치 내용도 포함"

황희 더불어민주당 의원 발의
'Chat GPT(Generative Pre-trained Transformer)'등 인공지능이 빠른 속도로 발전함에 따라 관련 법적·윤리적·제도적 관점에서 사회적 논의를 포괄적으로 수렴, 인공지능 개발 및 이용에 관한 기본원칙을 정하도록 하는 내용을 담은 법안이 국회에서 나왔다.

황희(사진) 더불어민주당 의원은 '인공지능책임법안'을 지난달 발의했다. 이 법안은 △인공지능 △고위험인공지능 △인공지능사업자를 규정하고 인공지능 기술의 개발, 기술 기준 마련, 표준화 및 실용화·사업화 등 인공지능 산업의 진흥을 위한 정부의 역할을 규정하는 내용을 담고 있다.

또 인공지능에 관한 분쟁 조정을 위해 인공지능분쟁조정위원회를 설치하는 내용도 포함됐다.

황 의원은 "국가 사업자의 책무와 이용자의 권리를 규정하고 고위험인공지능으로부터 이용자를 보호하기 위한 시책, 분쟁 발생 시 조정절차 등을 규정해 안전하고 신뢰할 수 있는 인공지능 기술·정책의 제도적 기반을 조성하려는 것"이라고 밝혔다.

황 의원은 "인공지능은 오늘날 교통·의료·서비스 등 다양한 분야에 활용되면서 우리의 일상을 광범위하게 바꾸고 있으며 국가생존을 위한 최상위 정책과제로 부상하고 있다"면서 "EU·미국·중국 등 주요국에서는 인공지능을 통한 국가경쟁력 유지와 인공지능 산업의 주도권을 확보하기 위해 과감한 투자와 법률적 기반 구축 등을 경쟁적으로 추진하고 있다"고 설명했다.

최근 인공지능 기술은 '딥러닝' 방식 등 알고리즘의 개선을 통해 예상보다 빠른 속도로 발전하고 있다. 2022년 12월 미국의 인공지능연구소에서 개발한 '챗GPT'의 경우 난이도가 상당한 것으로 평가받는 학술논문, 에세이, 시 보고서, 레포트 등을 단숨에 써내거나 소프트웨어 프로그램 코딩을 수행해 당장 실생활에도 적지 영향을 미치고 있다.

황 의원은 "인공지능의 본질은 결정과 행위를 사전에 설계한 알고리즘에 따라 자동화하는 기술이므로, 필연적으로 그 결정과 수행 과정에서 인간의 개입을 배제하게 된다"면서 "이로 인한 인공지능의 편리함과 기술적 수준의 경이로움 너머로 개인정보의 침해, 알고리즘 왜곡으로 인한 차별 논란 등 이용자 피해가 발생하고 보안 문제가 증대돼 시스템의 신뢰도가 저하하고 인공지능의 윤리 문제 등 역기능적 측면에 대한 사회적인 우려도 높아지고 있다"고 주장했다.황 의원은 "기술은 궁극적으로 인류를 위한 것이어야 한다는 점에서 인공지능의 양면성에 대해 충분한 사회적 논의가 필요한 시점"이라며 "데이터의 사용과 알고리즘 설계에 있어 선제적 윤리 대응이 필수적인 상황"이라고 설명했다.

임재섭기자 yjs@dt.co.kr