개인정보위, AI분야 개인정보·합성데이터 활용 가이드 마련

개인정보보호위원회(개인정보위)가 인공지능(AI) 분야 개인정보·합성데이터 활용 관련 안내 자료인 'AI 프라이버시 리스크 관리 모델'과 '합성데이터 생성·활용 안내서'를 19일 발표했다.

먼저 'AI 프라이버시 리스크 관리 모델'은 AI기업의 자율적인 프라이버시 리스크 관리를 위해 마련됐다. AI 데이터 처리 특성, 프라이버시 리스크 유형, 리스크 경감방안 및 관리체계, 기업 사례 등을 집대성해 안내하는 자료다.

이날 공개된 리스크 관리 모델은 관리적 안전조치로 △학습데이터 출처·이력 관리 △허용되는 이용방침 마련 △레드팀 통한 개인정보 침해유형 테스트·조치 △부적절한 답변 등에 대한 정보주체 신고방안 마련 등을 제시했다. 학습데이터에 민감한 정보나 대규모 개인정보가 포함되는 경우 △개인정보 영향평가 수행도 권장된다.

기술적 안전조치로는 △불필요한 데이터 삭제, 가명·익명화 등 AI학습데이터 전처리 △AI모델 미세조정(파인튜닝) 통한 안전장치 추가 △입력·출력 필터링 적용 △차분 프라이버시 기법 적용 등을 포함했다. 다만 이런 모든 개별 조치를 필수적으로 이행해야 하는 것은 아니다. 개인정보보호중심설계(PbD) 관점에서 구체적으로 리스크를 식별하고 측정한 결과 등 개별 맥락에 따라 최적의 조합을 마련해 시행할 수 있도록 안내했다.

개인정보위는 추후 AI 기술 발전, 개인정보 관련 법령 제·개정, 글로벌 동향 등을 고려해 리스크 관리 모델을 지속적으로 업데이트할 계획이다. 미세조정·검색증강생성(RAG) 등 세부영역 등에 특화한 안내자료도 조만간 구체화할 예정이다.

또한 개인정보위는 지난 5월 합성데이터 관련 실증사례를 담은 '합성데이터 생성 참조모델'을 발표한 데 이어, 해당 사례를 바탕으로 합성데이터 생성절차와 관련 법령 준수사항을 수록한 '합성데이터 생성·활용 안내서'를 이날 발간했다.

합성데이터 생성·활용 주체와 관련된 적법절차, 원본데이터의 전처리 방식, 안전성·유용성 검증방법과 지표 등 생성·활용 단계별 세부절차를 담았다. 생성과정 전반에 대한 체크리스트와 문서 예시를 제시했고, 이미지 등 비정형 합성데이터에 대해서도 절차와 유의사항을 다뤘다. 불특정 다수 등 일반대중 공개를 위한 합성데이터는 안전성에 중점을 둬 생성·검증하고 심의위원회 평가 등을 거쳐 익명정보로 활용할 수 있다는 점도 밝혔다.

이날 열린 'AI 시대 개인정보 정책 설명회'에서 고학수 개인정보위 위원장은 "지난해 개인정보보호법 전면 개정과 'AI 시대 안전한 개인정보 활용 정책방향'을 토대로 AI와 데이터 처리 원칙 및 기준을 구체화하는 안내서를 순차적으로 마련해 발표했다"며 "그간의 정책 성과와 경험을 바탕으로 혁신 지향적이고 기술 중립적인 원칙 기반의 규율체계를 법·제도적으로 구체화 하기 위한 'AI 정책 2.0'을 준비하고 있다"고 말했다.팽동현기자 dhp@dt.co.kr