[인더스트리뉴스 조창현 기자] DX 전문업체인 코세나(대표 이승훈)는 올해 초 출시한 sLLM 기반 DeepKMS 솔루션이 고객 호응을 바탕으로 짧은 시간 안에 실적을 쌓아가고 있다고 밝혔다.

DeepKMS는 사용자 데이터를 주입해 sLLM을 기반으로 추가적인 학습을 진행하고 BERT로 검증해 LLM에 대한 환각을 최소화하는 지식관리(knowledge Managenment System) 솔루션이다.

코세나는 최근 A 기업에 국내기업 정보를 요약해 제공하는 서비스에 대한 컨설팅과 구축계약을 맺고 프로젝트를 진행하고 있다고 전했다. 또 B 기업에는 관련 업종에 대한 국내외 제품 매뉴얼을 학습해 제품 설정과 에러 대응, 업무 진행 등에 대한 서비스 계약을 맺고 컨설팅 및 구축 작업을 하고 있다. 코세나는 현재 또 다른 기업인 C 기업과도 음성과 융합한 LLM 서비스에 대한 컨설팅 및 구축 작업을 진행하고 있다고 설명했다.

솔루션은 코세나 보유 KOR-MERINO 서비스를 기반으로 한다. KOR-MERINO는 비정형 데이터 전처리와 더불어 오픈소스 sLLM 모델에 대한 파인튜닝(fine-tuning), QA 강화학습 등을 패키지로 제공하는 서비스다. 올해 1월부터 관련 서비스를 고객사에 공급하고 있으며, DeepKMS는 △사용자 관리 △문서 관리 △프롬프트 관리 △챗봇 UI 등 다양한 메뉴로 구성돼 있다는 게 코세나의 설명이다.

코세나 이승훈 대표는 “최근 고객들로부터 내부 업무 또는 콜센터 등에 sLLM기반 지식관리를 구축하려는 수요가 많아지고 있으며, 솔루션 라이선스도 영구 라이선스와 1년 구독 라이선스로 공급하는 등 고객 선택의 폭을 넓히고 있다”고 말했다.

이어 이승훈 대표는 “코세나는 현재 고객이 원스톱으로 DeepKMS를 빠르고 쉽게 구축할 수 있도록 솔루션을 고도화하고 있다”고 덧붙였다.

조창현 기자 다른기사 보기