올거나이즈는 자사 '알파' 대형언어모델(LLM)과 검색증강생성(RAG) 솔루션을 결합해 LH 내부에 생성형AI 서비스를 구축할 예정이다. 알파 LLM에 LH 고유 업무 문서, 유관 분야 전문 데이터를 학습시켜 공공 및 건설 관련 업무 확장성이 높은 특화 모델로 고도화한다. 데이터는 편람, 매뉴얼, 현행법령 및 행정규칙, 표준·전문시방서 등 LH 내외부 업무 관련 내용들로 구성된다.
또한 생성형AI의 할루시네이션(환각·왜곡) 현상을 줄일 수 있는 RAG를 통해 △지식 검색 및 출처 표시 △사내 문서 및 복잡한 표 기반 질의응답 △사용자별 질의이력 관리 등을 LH 업무에 맞게 적용한다. PDF, HWP 등 다양한 문서 형식과 복잡한 표를 포함한 문서에서도 답을 잘 찾을 수 있도록 구성한 RAG 솔루션을 활용한다. 출처 미리보기 화면에서 답을 강조 표시하는 등 최적화된 사용자환경·경험(UI·UX)도 구현한다는 계획이다.
올거나이즈는 이번 사업 개찰 결과 기술평가에서 타사 대비 우수한 평가를 받았다고 강조했다. 사업을 성공적으로 추진하기 위해 10년 이상의 전문적인 인력 구성으로 핵심 기술역량을 총동원한다. LH는 이번 사업을 통해 업무기준에 대한 질의응답 서비스를 구축하고 지속적인 학습데이터 현행화 기반을 마련해 일하는 방식의 혁신을 지속 추진한다는 방침이다.
이창수 올거나이즈 대표는 "이미 한미일의 다양한 기업 및 공공기관과 수십만, 수백만 페이지의 방대한 문서를 대상으로 생성형AI를 활용해 필요한 지식을 찾고 업무를 자동화하는 프로젝트를 수년간 진행해왔다. 생성형AI를 사내 서버에 구축할 때는 적절한 경량화와 특화된 학습도 중요하지만, 함께 작동하는 RAG 솔루션의 품질도 중요하다"며 "올거나이즈의 LLM 앱 마켓을 비롯한 생성형AI 솔루션을 더 확장해 업무 생산성 혁신을 지원해나갈 것"이라고 말했다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
