IBM, 왓슨x서 맞춤형 배포 가능한 ‘미스트랄 라지 모델’ 지원

[인더스트리뉴스 조창현 기자] 검색증강생성(RAG) 전문화를 통해 장기간 채팅 상호작용과 대용량 문서 처리가 가능하며, 사용자 정의 함수나 API 같은 외부 도구에 연결할 수 있으면서도 수준 높은 코딩 성능으로 특정 용도에 맞는 애플리케이션을 쉽게 구축할 수 있는 솔루션이 나왔다.

IBM은 기업들이 고품질, 고성능 파운데이션 모델을 폭넓게 이용하고, 필요에 따라 맞춤형으로 배포할 수 있도록 지원하기 위한 노력으로 왓슨x(watson x)에서 ‘미스트랄 라지(Mistral Large) 모델’을 제공한다고 발표했다.

왓슨x는 AI 개발자를 위한 IBM 내 기업용 AI 스튜디오다. 사용자는 IBM이 보유한 그래니트(Granite) 모델 외에도 다양한 오픈소스 및 상용 모델에 대한 선택이 가능하며, 사용 용도에 따라 변형하거나 비즈니스 솔루션 및 애플리케이션과 통합해 사용할 수 있다.

IBM에 따르면 자사는 이미 왓슨x 내에서 기업 환경에 적용할 수 있는 소규모 모델 Mixtral-8x7B를 제공하고 있다. 관련 모델은 IBM이 최적화한 모델로 주어진 시간 동안 처리할 수 있는 데이터양이 기존 모델 대비 50% 증가했다. 소규모 모델에 이어 새롭게 추가된 미스트랄라지는 서비스형 소프트웨어(SaaS)로 먼저 제공될 예정이다.

IBM 관계자는 “왓슨x 사용자는 추론과 다국어 기능이 필요한 복잡한 전사적 작업을 처리하도록 최적화된 미스트랄AI가 가진 가장 강력한 모델인 미스트랄라지를 활용할 수 있게 됐다”며, “책임감 있는 AI 구축을 위해 안전장치로 사용할 수 있는 ‘가드레일(guardrail)’ 기능도 내장돼 있다”고 설명했다.

아울러 기업들은 왓슨x 플랫폼에서 추가적인 엔터프라이즈 지원 제품도 활용할 수 있게 됐다. 구체적으로 사용자는 미스트랄라지를 통해 △데이터 스토어 △프롬프트 랩 △모델 튜닝 △프로세스 모니터링 및 거버넌스 기능 등을 이용 가능하다. IVM은 왓슨x 사용자는 특정 플랫폼에 종속되지 않고 온프레미스나 퍼블릭 클라우드 제공업체 등 원하는 환경에서 왓슨x 내 모델을 배포할 수 있다고 전했다. 빠르게 변화하는 AI 영역에서 기업이 유연성을 확보해 바뀌는 환경에서도 민첩하게 대응할 수 있도록 지원할 솔루션으로 분석된다.

앞으로 IBM은 왓슨 플랫폼에 미스트랄AI 상용 모델을 제공함으로써 개방형 멀티 모델 전략을 보다 확대하고 기업이 혁신과 변화, 확장할 수 있도록 지원할 계획이다. 또 한도형 지적재산권 보상 제도를 통해 미스트랄라지에 대한 사용자 보호도 제공할 방침이다. IBM 관계자는 “미스트랄라지에 대한 사용자 보호는 자사 AI 모델인 IBM 그래니트 모델에 대한 보증 제도를 적용한 이래 제3자 파운데이션 모델까지 확대한 첫 번째 사례”라고 강조했다.