오픈AI, 기업공개 앞두고 ‘위험대비팀’ 전격 해산 [이규화의 글로벌AI]

AI의 치명적 위험성 평가·감시하던 팀 사라져 회사측 “효율성 제고, 조직 슬림화 차원” 설명 AI 안전과 통제 역량에 대한 우려 다시 증폭 까다로운 안전 가이드라인 차단 목적 의심 커 생성형 인공지능(AI) 혁신의 선두 주자인 오픈AI가 기업공개(IPO)를 추진하는 과정에서 첨단 AI 모델의 치명적 위험성을 평가·감시해 온 전담 안전 조직인 ‘준비(Preparedness)팀’을 전격 해산했다. 미 IT 전문 매체 더버지의 17일(현지시간) 보도에 따르면 오픈AI는 지난 7월 말 해당 팀을 해체하고, 그간 집중돼 있던 안전 관리 권한 및 업무를 생물학적·사이버 안보 등 세부 영역별 기존 실무 팀으로 분산 배치했다. 이번 조치는 역대 최대 규모로 예상되는 상장을 앞두고 효율성을 높이고 조직을 슬림화하기 위한 차원이라는 것이 회사 측의 설명이다. 하지만 핵심 안전부서의 해산과 주요 책임자들의 연속 이탈이 맞물리면서 AI 업계와 투자자 사이에서는 오픈AI의 안전 통제 역량에 대한 우려가 다시 증폭되고 있다. 2023년 10월 설립된 ‘준비팀’은 최첨단 AI 모델이 사이버 공격, 생화학 무기 제조 지원, 자율적 시스템 침투 등 인류에게 치명적인 재앙을 초래할 수 있는지 사전 검증하고 출시 통제 기준을 세우는 핵심 임무를 맡아왔다. 그러나 이번 조직 개편으로 별도의 독립된 안전 감시 조직이 사라지고, 업무가 각 기술 개발 부서로 흡수되면서 기술 개발 승인과 안전 검증의 주체가 모호해졌다는 지적이 나온다. 오픈AI의 안전부서 해체는 이번이 처음이 아니다. 2024년 ‘초정렬(Superalignment)팀’과 ‘AGI대비(AGI Readiness)팀’이 해산됐고, 올 초 ‘정열 임무팀’에 이어 이번 준비팀까지 해체되면서 최근 2년간 총 4개의 핵심 안전 전담 부서가 연속으로 사라지거나 재편됐다. 경영진과 최고 수뇌부는 안전 기능이 개발 과정 전반에 내재화돼 오히려 실질적인 안전성이 강화되는 방식이라고 설명하지만, 내부 연구진과 시장의 시선은 싸늘하다. 특히 최근 브래드 라이트캡 최고운영책임자(COO)와 클로이 바칼라 최고윤리책임자(CEI) 등 주요 임원들이 연이어 사임하고, 준비팀을 이끌던 핵심 연구진마저 다른 부서로 이동하거나 회사를 떠나면서 조직 내부의 불안감이 최고조에 달하고 있다. 일부 내부 관계자들은 제품 상용화 가속도에 밀려 치명적인 위험성에 대한 경고음이 묻히고 있다는 심각한 우려를 표명하고 있다. 이번 조치의 배경에는 수백조원의 가치를 평가받는 초대형 IPO가 자리 잡고 있다는 분석이 지배적이다. 샘 올트먼 최고경영자(CEO)가 직원들에게 수익성과 직결되지 않는 부수적 프로젝트를 정리하고 챗GPT 등 핵심 서비스 향상에 집중할 것을 주문한 가운데, 까다로운 안전 가이드라인이 신제품 출시를 지연시키는 걸림돌로 인식되었을 가능성이 제기된다. 결국 비영리 연구소로 출발했던 오픈AI가 본격적인 영리 기업이자 상장사로 변모하는 과정에서 안전성 확보보다 상업적 이익과 빠른 시장 선점을 우선순위에 두기 시작했다는 평가가 나온다. 앞으로 증권거래위원회(SEC) 상장 심사 및 기관 투자자들과의 만남에서 모델 출시를 정지시킬 수 있는 실질적인 안전 통제 권한이 누구에게 어떻게 부여되어 있는지 입증하는 것이 오픈AI의 과제로 떠오를 가능성이 있다. 이규화 대기자 david@dt.co.kr