오픈AI 최고과학자 “AI 안전장치 마련될 때까지 발전속도 조절해야”

오픈AI의 최고과학자가 인공지능(AI) 기술의 잠재적 위험을 경고하며 업계 전반에 개발 속도 조절을 촉구했다. 그러나 같은 날 공개된 오픈AI의 별도 보고서는 ‘연구 가속화’를 강조했다. 야쿠프 파호츠키 오픈AI 최고과학자는 6일(현지시간) 회사 홈페이지에 게재한 기고문 ‘외계의 지성’(An Alien Mind)에서 “기계 지능이 빠르게 진화하고 있지만 그 결과에 대비하는 움직임은 없다”고 우려를 표했다. 그는 현대 AI가 “설계된다기보다는 재배된다”고 강조했다. 인간이 그 작동 원리를 완전히 이해하거나 통제하기 어렵다고 지적했다. 생물처럼 성장하는 특성 때문에 안전장치 역시 모델이 고도화될수록 효과가 떨어지고 있다는 것이다. 파호츠키는 AI 업계가 “방어 체계를 구축하려면 개발을 계속해야 한다”는 논리를 펴는 데 대해 “무모한 행동을 정당화하는 구실로 삼아서는 안 된다”고 반박했다. 이어 AI가 인간에게 위협적인 행동을 거부하도록 만드는 ‘정렬’ 문제를 해결한 연구소는 아직 없다고 지적하며 공동 안전장치가 마련될 때까지 업계가 자발적으로 속도를 늦추기를 기대한다고 밝혔다. 그는 또한 “AI 개발에 대한 국제적 협력이 각국 정부의 최우선 과제가 돼야 한다”고 덧붙였다. 샘 올트먼 오픈AI CEO도 이 글을 사회관계망서비스 엑스에 공유하며 “중요한 글”이라고 지지 의사를 나타냈다. 올트먼은 그동안 AI 개발 속도 조절론에 회의적인 입장을 보여왔지만 최근 GPT 모델 관련 해킹 사건 이후에는 태도를 바꿔 속도 조절론을 지지하고 있다. 반면 오픈AI가 같은 날 발표한 ‘연구 가속화’ 보고서는 다른 방향을 제시했다. 보고서는 AI가 자체적으로 개선과 코딩을 수행하는 ‘자동화 AI 연구 인턴’ 목표를 달성했다며 2028년 3월까지 이를 발전시켜 ‘자동화 AI 연구원’을 개발하겠다는 계획을 내놓았다. 또한 인간 연구원의 하루 근무량을 기준으로 AI 에이전트가 3.1일치에 해당하는 작업을 수행할 수 있다고 설명했다.