'알리 파이낸스 LLM'은 오픈소스 LLM(대규모언어모델) 중 가장 성능이 뛰어나다고 알려진 메타 '라마2' 기반의 sLLM(경량화LLM)이다. 파라미터(매개변수) 130억·700억개의 두 가지 모델로 제공된다.
이 모델은 금융 도메인에 특화된 데이터로 학습돼 금융 용어를 이해하는 게 특징이다. 예를 들어 'LTV'라는 단어를 챗GPT에 물어보면 마케팅 지표인 'Lifetime Value'의 약어라고 답하지만, '알리 파이낸스 LLM'에 질문하면 금융 약관 등에 자주 나오는 'Loan to Value(담보 인정 비율)'의 약어라는 답이 나온다.
'알리 파이낸스 LLM'은 올거나이즈의 올인원 LLM 플랫폼 '알리(Alli)'에서 인지검색 및 요약에 바로 사용 가능하다. 올거나이즈의 RAG(검색증강생성) 기술과 결합해 답변 적합도를 높일 수 있다. 금융 상품 설명서, 경제 전망 보고서 등 원하는 문서를 업로드한 후, 특정 부분을 검색해서 찾아주거나 요약해 달라고 프롬프트(명령어)를 입력하면 된다. 일부 페이지만 지정해서 검색·요약할 수 있으며, 수식이 들어간 복잡한 표에서도 원하는 내용을 찾을 수 있다.
올거나이즈에 따르면 '알리 파이낸스 LLM'을 사용해 최대 2주 안에 기업 전용 sLLM을 구축하고 비용 최적화까지 가능하며, 데이터 반출에 대한 보안 우려 없이 기업 전용 온프레미스 LLM 앱 마켓도 구축할 수 있도록 지원한다. 금융모델과 금융 관련 업무 자동화에 특화된 LLM 앱 마켓을 고객사 전용 네트워크 환경에서 사용할 수 있고, 이를 통해 기업 내부 용어나 약어가 반영된 업무 생산성 앱을 쉽게 만들고 사용할 수 있도록 지원한다. 직군별 업무 자동화에 특화된 100개의 앱도 사전 등록돼 제공된다.
이창수 올거나이즈 대표는 "알리 파이낸스 LLM은 금융 특화 LLM과 앱 마켓을 동시에 제공해 도입 즉시 바로 실무 적용이 가능하다"며 "올거나이즈는 2017년부터 KB증권, 현대카드, 일본 SMBC 금융그룹 등 거대 금융 고객사들과 함께하며 금융 분야에서 지식관리 노하우를 쌓아왔기에 금융 특화 sLLM 모델을 가장 먼저 출시했다. 앞으로 보험, 제조업 등 분야로 넓혀갈 것"이라고 말했다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
