인스웨이브에 따르면 'W-매트릭스 AI'는 자사 모바일 앱 플랫폼 'W-매트릭스 포 모바일'과 결합, 개발자들이 온디바이스 LLM을 손쉽게 사용할 수 있는 올인원 패키지를 제공한다. 웹 개발자와 LLM 사용 경험이 없는 일반 앱 개발자 모두가 온디바이스 LLM을 지원하는 앱을 쉽게 개발할 수 있도록 설계됐다.
이 솔루션은 △온디바이스 LLM 파일 관리 △파인튜닝된 온디바이스 LLM 파일을 배포할 수 있는 저장소 △사용자 입력값과 검색된 데이터를 기반으로 추론하는 맥락 검색 △온디바이스 임베딩 △유사도 검색 △모바일에서 사용할 임베딩 데이터 생성 △플랫폼별로 모델을 적절한 파일 형식으로 변환 등 다양한 기능을 지원한다.
인스웨이브는 자사 기술지원 사이트 'W-테크'의 AI챗봇 서비스를 모바일로도 제공하는 'W-톡' 앱에 'W-매트릭스 AI'를 적용했다. 'W-톡'은 지난해 12월 iOS버전이, 이달 6일 안드로이드 버전이 출시됐다. 회사는 'W-매트릭스 AI'가 '애플 비전 프로'를 포함해 다양한 디바이스를 지원할 수 있도록 준비해 내달 중 출시 예정이다.
인스웨이브 관계자는 "'W-매트릭스 AI' 출시로 개발자들은 이제 더욱 쉽게 온디바이스 LLM을 앱에 통합해 사용자에게 더욱 풍부하고 개인화된 경험을 제공할 수 있게 됐다"며 "AI 기술을 활용한 다양한 제품을 시장에 선보이기 위해 지속적으로 노력하겠다"고 말했다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
