日정부 내년 AI 전담조직 꾸린다...한국은 "전담 조직 필요성 검토"

안정성 평가 기준·가짜 정보 대책 수립
국내 경우 민간 자율로 신뢰성 검증 중
일본 정부가 내년 1월 AI(인공지능) 안정성 확보를 담당할 조직을 신설할 것으로 알려졌다.

17일 일본 요미우리신문 보도에 따르면 'AI 세이프티 인스티튜트'라는 명칭의 새 조직은 경제산업성 산하 IPA(정보처리추진기구)에 수십명 규모로 설치될 예정이다.

해당 조직은 생성형 AI 개발 기업 등이 안정성을 평가할 때 사용할 기준을 정하고 가짜 정보 대책 수립을 위한 유효한 기술 등에 대한 연구조사도 벌일 전망이다. 가짜 정보 대량 생성이나 범죄 이용 등 AI의 위험성을 최소화하기 위한 대책으로 보인다.

요미우리는 "미국이나 영국 정부도 비슷한 조직의 신설 방침을 밝힌 바 있다"며 "새로 설립되는 조직이 미국, 영국과 협력해 안전한 AI의 제도 확립을 꾀할 것"이라고 전했다.

일본이 영국과 미국의 AI 안정성 연구소와 같이 설립·운영하겠다고 밝힌 가운데 AI 주무부처인 과학기술정보통신부는 내년 5월 별도 조직의 필요성을 살펴볼 계획이다.

우리나라의 경우 현재 민간 사업자 중심의 자율규제가 시행 중이며 한국정보통신기술협회(TTA)가 관련 기준을 정립해 '민간 자율 신뢰성 검·인증'을 운영하고 있다. 과학기술정보통신부에 따르면 5월 국내 개최 예정인 'AI 세이프티 미니 정상회의'에서 IPA 관련 안건을 다룰 전망이다.

남철기 과기정통부 인공지능기반정책과 과장은 이날 디지털타임스와의 통화에서 "우리나라는 AI 선도국으로써 10월 30일부터 신뢰성 안전 관련 검증하는 것을 미국과 같이 TTA가 민간 자율 신뢰성 검증을 운영하고 있다"며 "특히 AI 안정성은 국제적으로 중요한 이슈여서 관련 별도 조직이 필요한지 검토해가야하는 단계이며 내년 5월 미니 정상회의에서 AI 세이프티 인스티튜트를 살펴볼 것"이라고 밝혔다.

김영욱기자 wook95@dt.co.kr