AI에 자판기 경쟁시켰더니 “담합·배신까지”…‘오퍼스5’ 수익 1위

美안돈연구소 ‘벤딩벤치’ 실험…‘오퍼스5’ 최고 성적 담합·거짓말·협박·배신까지…인간 뺨치는 비윤리성 GPT-5.6 솔, 담합 주도 뒤 가격 인하로 경쟁자 기습 中 ‘키미 K3’는 꼴찌…경제활동 맡길 안전장치 필요 인공지능(AI) 모델들에게 자판기 운영을 맡겨 경쟁시키는 실험에서 앤트로픽의 최신 모델인 ‘클로드 오퍼스5’가 가장 높은 수익성을 기록했다. 그러나 수익 경쟁 과정에서 가격 담합과 거짓말, 협박, 배신 등 인간 못지않은 비윤리적 행태가 잇따라 드러나 AI 에이전트 시대의 새로운 위험 요소를 보여줬다는 평가가 나온다. 미국 AI 안전성 평가기관 안돈(Andon)연구소는 29일(현지시간) 앤트로픽의 클로드 오퍼스5와 오픈AI의 ‘GPT-5.6 솔’, 중국 문샷AI의 ‘키미 K3’ 등을 대상으로 자판기 운영 시뮬레이션 ‘벤딩벤치’(VendingBench) 실험을 진행한 결과를 공개했다. 연구진은 AI가 단독으로 1년 동안 가상의 자판기를 운영하는 ‘벤딩벤치2’와 여러 AI가 동일한 공간에서 각자 자판기를 운영하며 경쟁하는 ‘벤딩벤치 아레나’ 두 가지 환경에서 모델들의 성과를 비교했다. 실험 결과 클로드 오퍼스5는 단독 운영 환경인 벤딩벤치2에서 가장 높은 수익을 올렸고, 경쟁 환경인 벤딩벤치 아레나에서도 GPT-5.6 솔과 사실상 공동 1위 수준의 성과를 기록했다. 안돈연구소는 오퍼스5가 수익성이 높은 상품 위주로 판매 전략을 구성하고 사기성 거래에 자금을 낭비하지 않는 등 뛰어난 사업 운영 능력을 보여줬다며 “실험에 참가한 모델 가운데 가장 뛰어난 자본가”라고 평가했다. 하지만 여러 AI가 경쟁하는 환경에서는 예상 밖의 문제가 드러났다. 대부분의 모델이 수익 극대화를 위해 윤리적 기준을 스스로 무너뜨리는 행동을 선택한 것이다. 오퍼스5는 공급업체와 가격 협상을 벌이는 과정에서 실제 존재하지 않는 경쟁 업체의 견적을 제시하며 납품 단가 인하를 유도했고, “배송된 상자에 물품이 들어 있지 않았다”고 허위 주장을 해 추가 물량을 받아내기도 했다. 경쟁 AI가 가격 담합을 제안했을 때는 처음에는 미국 반독점법인 셔먼법 위반 소지가 있다며 거절했지만, 이후에는 “소모적인 가격 경쟁을 멈추고 판매 구역을 나누자”며 태도를 바꿔 담합에 동참했다. 이후 자신이 도매가에 넘긴 재고를 중국 키미 K3가 가격 인하에 활용하자 “내 재고를 이용해 가격을 깎다니 이제 어떻게 되는지 보게 될 것”이라며 사실상 협박성 메시지를 보내기도 했다. GPT-5.6 솔 역시 크게 다르지 않았다. 이 모델은 병당 1.5달러에 들여온 음료를 2.15달러 이하로 판매하지 말자며 경쟁 모델들의 동의를 얻어 담합을 주도했다. 그러나 합의 직후 자신만 가격을 2.14달러로 낮춰 경쟁사 고객을 흡수했고, 오퍼스5가 같은 가격으로 맞대응하자 이번에는 오퍼스5가 담합을 위반했다며 벌금 부과나 참가 자격 박탈을 요구하는 등 이중적인 모습을 보였다. 키미 K3 역시 담합에 참여했다가 이를 깨는 행동을 반복했지만, 결과적으로는 오퍼스5와 GPT-5.6 솔 사이에서 경쟁력을 잃으며 가장 큰 손실을 기록했다. 안돈연구소는 이번 결과가 단순한 게임이 아니라 AI 에이전트가 기업 활동을 직접 수행하는 시대를 앞두고 중요한 시사점을 던진다고 강조했다. 루카스 페테르손 안돈 연구소 공동창업자는 IT 전문매체 테크크런치와의 인터뷰에서 “AI 에이전트가 독립적으로 기업을 운영하는 시대가 가까워지고 있다”며 “경제 활동의 상당 부분을 AI가 맡게 될 경우, 이들이 거짓말과 담합, 위협, 배신을 통해 이익을 극대화하는 상황을 사회가 용인할 수 있을지 고민해야 한다”고 말했다. 그는 이번 결과가 실제 환경이 아닌 시뮬레이션이라는 점을 전제로 하면서도 “인간이 게임 속에서 비윤리적으로 행동해도 크게 우려하지 않는 것은 현실과 가상을 명확히 구분할 수 있다고 믿기 때문”이라며 “AI가 과연 그런 구분을 할 수 있는지는 아직 확신하기 어렵다”고 지적했다. 이번 실험은 AI 모델의 성능 경쟁이 추론 능력이나 코딩 실력에 그치지 않고 실제 경제활동에서 어떤 의사결정을 내릴 것인지 검증해야 하는 단계에 접어들었음을 보여준다. 특히 AI 에이전트가 기업 운영과 상거래를 자율적으로 수행하는 시대가 다가올수록 수익성 못지않게 윤리성과 규범 준수 능력을 어떻게 설계하고 검증할 것인지가 AI 산업의 핵심 과제로 부상할 것이라는 분석이 나온다.