가트너 "생성형AI, 앱 내장 형태로 가장 많이 쓰여"

인공지능(AI) 솔루션 가운데 생성형AI가 가장 많이 쓰이고 있고, 이를 애플리케이션에 내장된 형태로 활용하는 게 선호되는 것으로 조사됐다.

8일 가트너(Gartner)는 지난해 4분기에 실시한 설문조사를 통해 생성형AI가 기업에 가장 많이 배포된 AI 솔루션 유형이라고 발표했다. 응답자 중 29%가 구축해 사용 중으로, 그래프 기술, 최적화 알고리즘, 규칙(룰) 기반 시스템, NLP(자연어처리), 기타 유형의 머신러닝(기계학습) 등 다른 솔루션보다 더 높게 나타났다.

3분의 1에 달하는 34%의 응답자는 '마이크로소프트 365 코파일럿' 또는 '어도비 파이어플라이' 같이 기존 애플리케이션에 내장된 생성형AI를 활용하는 게 가장 주된 활용법이자 생성형AI 사용사례를 충족하는 최적의 방법이라고 응답했다. 이는 엔지니어링을 통한 생성형AI 모델 커스터마이징(25%), 맞춤형 AI모델 훈련·미세조정(21%), 챗GPT·제미나이 등 독립형 생성형AI 도구 사용(19%) 등 다른 방법보다 자주 사용됐다.

절반가량(49%)의 응답자는 AI 도입에서의 가장 큰 장애물로 AI 프로젝트 가치 추정과 입증을 꼽았다. 이는 인력 부족, 기술적 어려움, 데이터 관련 문제, 비즈니스 연계 부족, AI에 대한 신뢰 부족 등 다른 요소보다 더 높은 응답을 기록했다. 이와 달리 기업의 9%는 현재 AI 성숙기에 있는 것으로 평가됐다. 다양한 비즈니스 부서와 프로세스에 걸쳐 AI를 광범위하게 적용하고, 보다 오래 유지되는 사용사례를 많이 도입한 조직이 해당된다.

이들 성숙한 AI 조직은 △중앙집중식과 탈중앙화 기능의 균형을 맞출 수 있는 확장 가능한 AI 운영 모델 활용 △AI 프로젝트 구축·배포의 체계적인 방법을 설계하는 AI 엔지니어링 △기업 전반에 걸친 AI 숙련도 향상과 변화 관리에 대한 투자 △AI 도입에 따른 위험 완화 및 개선된 사업성과 창출을 위한 신뢰·위험·보안 관리(TRiSM) 등 4가지 역량에 집중하는 것으로 파악됐다.

이에 대해 가트너는 AI 성숙단계에 접어든 기업들이 AI 기술 관련해 어떤 일이 발생해도 관련성을 유지할 수 있는 기본역량에 투자한다고 설명했다. 기본역량에 집중하면 기업은 AI 프로젝트를 도입하는 데 따르는 여러 어려움을 완화할 수 있으며, 대규모 AI를 더 효율적이고 안전하게 배포할 수 있게 된다. 조사결과 평균적으로 AI 프로젝트의 48%만 실무에 적용되며, 초기단계에서 실무적용까지 8개월이 걸리는 것으로 나타났다.

레이나 라모스 가트너 시니어디렉터 애널리스트는 "생성형AI는 기업 내 AI 확장을 위한 촉매제 역할을 한다"며 "생성형AI는 비즈니스 전반에 걸쳐 AI 채택 수준을 높였고, 이를 통해 AI 숙련도 향상과 AI 거버넌스와 같은 후속 논의가 이어졌다. 생성형AI는 기업이 AI 역량을 높이도록 강제하고 있다"고 말했다

그는 "AI 관련 비즈니스 가치는 조직이 지속적으로 직면하는 과제다. 조직은 AI를 확장할 때 프로젝트 총 소유비용과 함께, 생산성 향상 너머의 광범위한 이점도 고려해야한다"며 "AI를 활용한 비즈니스 가치 창출에 어려움을 겪고 있다면 성공적인 AI조직의 모범사례를 참고할 수 있다"고 덧붙였다.팽동현기자 dhp@dt.co.kr