[인더스트리뉴스 조창현 기자] 챗GPT 등장 이후 생성형AI 및 초거대AI모델 등에 대한 관심이 증폭되고 있는 가운데, 인공지능 소프트웨어 전문기업 코난테크놀로지(대표 김영섬)가 자체개발 초거대언어모델(이하 코난LLM) 출시에 속도를 내게 됐다. 코난테크놀로지는 코난LLM이 7월 17일을 기준으로 전체 학습 토큰 4,920억개 및 한국어 토큰 2,840억개로 학습을 마쳤다고 밝혔다.

총 파라미터(매개변수)는 131억개에 달한다. 13.1B 파운데이션 모델은 파인튜닝을 거쳐 다음달 정식 출시된다. 오는 8월 1일부터 학습을 시작해 올해 10월 중 마무리될 코난LLM 파운데이션 모델 내 파라미터는 400억개다. 전체 토큰은 6,000억개, 한국어 토큰은 4,000억개로 준비 중이다.

코난테크놀로지는 코난LLM을 온프레미스 방식으로 제공해 생성형AI 보안과 기밀유출 우려를 방지하고, B2B 및 B2G를 향한 초거대 AI를 표방하고 있다고 전했다. 이에 코난LLM은 기업이나 기관에 최적화된 지도학습 및 강화학습을 거쳐 △문서 초안 생성 △문서 요약 △질의 △응대 등에 높은 성능을 제공할 수 있도록 할 계획이라고 코난테크놀로지는 전했다.

고객 비용 부담을 줄이는 것에도 노력했다. 통상적으로 생성형AI 학습비용은 토큰 개수보다 파라미터 개수에 따라 증가한다. 이에 코난테크놀로지는 모델 파라미터 사이즈는 줄이면서 성능을 유지하는 것이 B2B와 B2G 제품에서 가장 중요한 사항이라고 설명했다. 코난LLM은 기업 필요에 따라 13.1B와 40B 파라미터 모델 중 기관에 최적화된 사양을 선택해 강화학습을 거칠 수 있다. 생성형AI를 합리적인 비용으로 제공하면서도 성능은 고도화시키겠다는 복안이다.

코난테크놀로지 김영섬 대표는 “자체개발 초거대 언어모델을 확보하고자 24년간의 기술력을 쏟아 부었다”며, “기업과 기관에 최적화된 모델로 시장요구에 부응하고, 온프레미스 형태로 보안을 강화시켜 생성형AI 생태계 구축을 이끌겠다”고 언급했다.

한편 국내기업들이 초거대 AI 확보를 위해 개발경쟁에 뛰어든 상황에서 코난테크놀로지는 인력과 데이터, 파라미터 기반 초거대언어모델 학습에 필수적인 GPU 서버까지 제때 확보함으로써 개발 시간은 줄이고 기술 격차 확대는 더욱 견고히 하고 있는 것으로 알려졌다. 실제로 코난테크놀로지는 생성형AI 시장에 선도적으로 대응하고자 개발인력을 지속 증원해 왔고, 2007년부터 운영 중인 실시간 AI 분석 서비스 ‘PulseK(펄스케이)’를 통해 고품질 한국어 데이터 205억건 이상을 축적하고 있다.

조창현 기자 다른기사 보기