24일(현지시간) 테크크런치에 따르면 오픈AI는 "기존 GPT-4o 기반 오퍼레이터 모델을 o3 기반 버전으로 대체한다"고 밝혔다. 다만 응용 프로그래밍 인터페이스(API) 형태로 제공되는 오퍼레이터는 기존과 마찬가지로 GPT-4o 모델을 계속 사용할 예정이다.
o3는 오픈AI가 개발한 최신 'o 시리즈' 모델 중 하나로 수학 및 논리 기반 추론 능력에서 GPT-4o보다 뛰어난 성능을 보인다는 평가를 받고 있다. 이번에 적용되는 o3 오퍼레이터는 컴퓨터 사용에 적합하도록 추가 안전성 데이터를 활용해 파인튜닝됐다. 오픈AI는 "모델이 어떤 요청을 수락하거나 거절할지를 스스로 판단할 수 있도록 확인과 거절의 기준을 학습시킨 데이터셋을 적용했다"고 설명했다.
이번에 함께 공개된 기술 보고서에 따르면 o3 오퍼레이터는 기존 GPT-4o 기반 모델에 비해 불법 활동 수행 요청이나 민감한 개인정보 검색 요청에 대한 거절률이 더 높았으며 외부 프롬프트를 통해 AI의 응답을 조작하는 공격 방식인 '프롬프트 인젝션'에 대한 저항력도 개선된 것으로 나타났다.
오픈AI는 "o3 오퍼레이터 역시 기존 4o 기반 모델과 동일한 다층적 안전 체계를 사용하고 있다"며 "o3 모델이 우수한 코딩 성능을 지녔지만 오퍼레이터는 자체적인 코딩 환경이나 터미널 접근 권한은 갖고 있지 않다"고 강조했다.유진아기자 gnyu4@dt.co.kr
[저작권자 ⓒ디지털타임스 무단 전재-재배포 금지]
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
