디지털타임스

 


씽크포비엘 "챗GPT `탈옥`, AI 신뢰성 검증으로 해결돼야"

프린트 페이스북 트위터 카카오스토리
씽크포비엘 "챗GPT `탈옥`, AI 신뢰성 검증으로 해결돼야"
박지환 씽크포비엘 대표가 2023 산업지능화 컨퍼런스에서 기조강연을 하고 있다. 씽크포비엘 제공

"학습데이터를 기술적 방법으로 통제하지 않은 채 AI(인공지능)에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 아무 탈 없이 인격자로 자라나길 기대하는 것과 다를 바 없다."

박지환 씽크포비엘 대표는 KOIIA(한국산업지능화협회) 주최로 지난 10일 서울 코엑스에서 열린 '2023 산업지능화 컨퍼런스'에서 이 같이 말했다. 그는 챗GPT 등 AI모델이 기존 규칙에서 벗어나 교란을 일으키는 이른바 '탈옥' 문제를 다루며 AI 학습용 데이터 검증의 중요성을 강조했다.

박 대표는 "효율을 중시하는 과정에서 자칫 인간이 AI에 사실상 모든 판단 주체를 넘기는 맹신에 가까운 태도를 보이면 걷잡을 수 없는 문제에 직면할 수 있다"면서 "챗GPT가 최근 '탈옥'을 시도해 폭력적·불법적 내용을 다루면서 업계 일각에서 적절한 규제가 필요하다는 공감대가 형성됐다"고 밝혔다.

이어 "AI가 다양한 인간·사회 데이터를 학습하기에 편향 문제에서 자유로울 수 없는 점이 근본 이유"라면서 "AI의 편향과 위험성을 없애고 사용자 신뢰를 확보하는 노력을 늦춰서는 안 된다"며 'AI 데이터 평가 기술 표준화'의 필요성을 강조했다.

씽크포비엘에 따르면 TTA(한국정보통신기술협회)가 담당하는 AI 신뢰성 관련 기술 표준에서 이 회사의 기술기법 다섯 건이 2021년과 2022년 단체표준으로 채택된 바 있다. 이를 토대로 평가를 수행함으로써 방대한 공공데이터가 지닌 가치를 판단하고 개선점을 찾을 수 있다는 게 회사의 설명이다.

박 대표는 "신기술이 제공하는 문명을 우리가 온전하게 누리기 위해서는 신기술에 대한 맹신과 불신을 구별해야 한다"며 "이를 통해 인간 보편의 존엄과 가치를 지킬 수 있는 검증 기술, 즉 'AI 신뢰성 검증'과 '데이터 편향 측정' 같은 기술이 병행·발전돼야 할 것"이라고 덧붙였다.팽동현기자 dhp@dt.co.kr




[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]