[입법이 나라 바꾼다] AI 표시의무 규제, 합리적으로 바꿔야

김우영 더불어민주당 의원(서울 은평구을) 인공지능(AI)기본법 개정안 생성형 인공지능(AI)은 이미 우리 일상과 산업현장 깊숙이 들어와 있다. 글을 다듬고, 이미지를 보정하고, 영상의 배경을 정리하며 콘텐츠 제작과 서비스 개발의 시간을 줄인다. 동시에 실제와 구분하기 어려운 이미지·영상·음향을 만들어내면서 허위정보와 사칭, 딥페이크 범죄에 악용될 수 있다는 우려도 커지고 있다. 이에 AI 생성물에 대한 표시의무는 필요하다. 이용자가 보고 듣는 정보가 AI를 활용해 만들어졌는지 알 수 있어야 하고, 기업과 플랫폼도 이용자의 신뢰를 지키기 위해서 최소한의 책임을 져야 한다. 투명성은 AI 시대의 기본 질서다. 신뢰 없이는 AI 산업도 지속하기 어렵다. 그러나 모든 AI 활용을 같은 방식으로 표시해야 하는지는 별개의 문제다. 현행 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’은 생성형 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 표시하도록 하고 있다. 또한 실제와 구분하기 어려운 음향·이미지·영상 등에 대해서도 이용자가 명확히 인식할 수 있도록 고지 또는 표시하도록 규정하고 있다. 무엇을 표시할지 못지않게, 무엇을 표시하지 않아도 되는지 정하는 일도 중요하다. 기준이 모호하면 선의의 이용자와 사업자들부터 부담을 진다. AI 규제는 촘촘할수록 좋은 것이 아니라, 위험한 활용과 일상적 활용을 구분할 수 있어야 실효성을 갖는다. 그래야 현장은 법을 피하는 대신 법을 지키는 방식으로 기술을 활용할 수 있다. 문제는 배경 생성, 색 보정, 화면 정리, 문장 교정처럼 단순한 편집 보조 수준의 AI 활용까지 표시의무 대상에 포함될 수 있다는 점이다. 이용자가 제공한 데이터나 그 의미가 실질적으로 바뀌지 않았는데도 AI를 사용했다는 이유만으로 표시의무가 부과된다면 창작자와 기업은 불필요한 법적 부담을 느낄 수밖에 없다. 이는 AI 활용을 투명하게 만들기보다 오히려 정상적인 기술 활용을 위축시키는 결과로 이어질 수 있다. 본 의원이 대표발의한 이번 개정안의 핵심은 AI 표시의무의 원칙은 유지하되, 과도한 적용 범위는 합리적으로 조정하는 것이다. 첫째, 생성형 인공지능 또는 이를 이용한 제품·서비스가 표준적인 편집 보조에만 활용된 경우 표시의무의 예외를 인정하도록 했다. 둘째, 이용자가 제공한 데이터 또는 그 의미를 실질적으로 변경하지 않는 경우에도 표시의무 대상에서 제외할 수 있도록 했다. 문화콘텐츠 영역의 기준도 정비했다. 현행법은 ‘예술적·창의적 표현물’에 대해서 표시의무를 완화할 수 있도록 하고 있지만, 그 범위가 불명확해 현장의 판단을 어렵게 한다. 개정안은 이를 ‘문화산업진흥 기본법’에 따른 문화상품으로 구체화하고, 전시·향유 등을 저해하지 않는 필요최소한의 방식으로 알리거나 표시할 수 있게 했다. 콘텐츠를 보는 경험을 해치지 않으면서도 AI 활용 사실을 알릴 수 있는 균형점을 찾자는 취지다. 법이 통과된다면 다음과 같이 달라진다. 첫째, 이용자는 실제와 구분하기 어려운 AI 생성물에 대해 필요한 정보를 제공받을 수 있다. 둘째, 사업자는 어떤 경우에 표시해야 하는지 예측 가능성을 가지게 된다. 셋째, 창작자와 콘텐츠 산업은 불필요한 표시 부담을 줄이면서도 신뢰를 해치지 않는 방식으로 AI를 활용할 수 있다. 제도가 명확해지면 시장의 불확실성도 줄어든다. 이 법안은 AI 생성물을 숨기자는 법이 아니다. 딥페이크나 허위정보처럼 이용자를 속이고 사회적 신뢰를 훼손하는 행위에 대해서는 표시의무와 책임을 분명히 해야 한다. 다만 단순 보정과 편집 보조, 의미 변화가 없는 기술 활용까지 일률적으로 규제하는 것은 창작과 산업 현장의 현실에 맞지 않는다. 규제의 목적이 신뢰라면 수단도 현장에서 납득할 수 있는 방식이어야 한다. AI 시대의 입법은 기술을 막는 일이 아니라, 기술이 신뢰 속에 쓰이도록 길을 내는 일이어야 한다. 투명성은 지키되 창작을 저해하지 않고, 책임은 분명히 하되 혁신을 위축시키지 않는 균형이 필요하다. 이번 개정안이 인공지능의 신뢰와 산업 발전을 함께 세우는 작은 디딤돌이 되기를 기대한다.