구글, 아마존, 마이크로소프트(MS), 삼성전자 등 16개 글로벌 기술 기업이 안전한 인공지능(AI) 개발을 약속했다.
영국 과학혁신기술부는 21일(현지시간) "영국과 한국이 블레츨리 선언을 기반으로 16개 글로벌 AI 기술 기업의 안전성 결과에 대한 약속을 확보했다"고 밝혔다.
이어 "기업들은 위험이 충분히 완화될 수 없다면 AI 모델을 개발하거나 사용하지 않기로 약속했다"며 "합의에는 책임 있는 거버넌스 구조, 프런티어 AI 안전과 관련한 투명성을 보장하는 약속이 담겼다"고 설명했다.
이번 발표는 한국과 영국이 이날부터 이틀간 'AI 서울 정상회의'를 개최하는 가운데 나왔다. 지난해 11월 영국 블레츨리 파크에서 처음 열린 'AI 안전성 정상회의'에 이어 열린 행사다.
당시 이 회의에서 세계 28개국과 유럽연합(EU)이 AI의 위험성에 대한 이해를 넓히고 국가간 협력을 다짐하는 '블레츨리 선언'이 채택됐다. 특히 고성능 첨단 AI인 프런티어 AI가 잠재적으로 파국적 피해를 초래할 수도 있다는 경고를 담았다. 이날 '프런티어 AI 안전 약속'에 참여한 기업은 아마존, 앤스로픽, 코히어, 구글·딥마인드, G42, IBM, 인플렉션AI, 메타, MS, 미스트랄AI, 네이버, 오픈AI, 삼성전자, 테크놀로지 이노베이션 인스티튜트(TII), xAI, 지푸AI다.
TII는 아랍에미리트(UAE)의 기술 연구기관이고 지푸AI는 중국 알리바바, 텐센트, 샤오미 등의 지원을 받는 중국 기업이다.
리시 수낵 총리는 "전 세계 각국에서 이렇게 많은 AI 선두 기업이 AI 안전성을 위한 단일 약속에 합의한 것은 세계 최초"라며 "혁신적인 기술의 혜택을 열어줄 글로벌 AI 안전 기준의 선례를 세우는 것"이라고 말했다. 이어 "영국의 블레츨리 정상회의에 이어 AI 서울 정상회의에서 구체적인 진전을 이뤄냈다"고 밝혔다. 참여 기업은 프런티어 AI 모델 및 시스템을 책임감 있게 개발하고 배치하며 향후 프랑스에서 열릴 AI 정상회의까지 심각한 위험에 초점을 맞춘 안전 체계를 발표, 이를 어떻게 달성했는지 공표하기로 했다.
프런티어 AI 모델 안전을 연구하는 METR의 베스 반스 소장은 "AI 개발은 공공 안전에 위험이 되는 레드라인에 대한 국제적 합의를 이루는 게 중요하다"며 "이번 약속으로 많은 당사자가 레드라인 설정에 동의하는 것을 보게 됐다"고 밝혔다. 팽동현기자 dhp@dt.co.kr
