미소정보기술 'M-LLM'은 '스마트TA'와 함께 향상된 속성·분류·분석을 제공한다. 매개변수를 줄이고 RAG(검색증강생성)와 미세조정(파인튜닝)을 통해 처리속도·신뢰성·생산성을 높였다.
미소정보기술에 따르면 'M-LLM'은 △종속적 탐색 기능을 통한 분석 워크플로우 적용으로 토큰 생성 비용과 소요 시간 50% 이상 절감 △주요 주제·토픽 식별·그룹화와 추천시스템 및 키워드 증강 등을 통한 인사이트 도출 지원 △구축형 내부시스템으로 데이터 유출 방지 및 보안성 강화 △어플라이언스로 인터넷·클라우드 없이도 사용 가능 등이 특징이다. 자체엔진과 함께 오픈AI, 구글, 메타, 네이버 등 AI모델의 하이브리드 연동도 지원한다는 게 회사의 설명이다.
안동욱 미소정보기술 대표는 "LLM 개발과 성능을 높이는 학습도 중요하나 앞으로 학습시킬 데이터가 부족한 시기가 온다. 양질의 데이터 확보와 분야별 전문 도메인 지식이 중요하다"며 "미소정보기술이 제일 잘할 수 있는 멀티모달 데이터 플랫폼과 풍부한 데이터분석 경험·노하우를 통해 기업·기관에 최적화된 최고의 데이터 인에이블러(Data Enabler)가 될 것"이라고 말했다.팽동현기자 dhp@dt.co.kr
[저작권자 ⓒ디지털타임스 무단 전재-재배포 금지]
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
