[인더스트리뉴스 박현우 기자] 에임인텔리전스(대표 유상윤)는 세계적으로 권위 있는 머신러닝 학술대회인 ICML 2025에서 자사의 인공지능(AI) 안전성 평가 연구가 공식 논문으로 선정됐다고 발표했다.

ICML(International Conference on Machine Learning)은 1980년부터 전 세계 연구자들이 최신 머신러닝 및 인공지능 기술을 공유하는 대표적인 국제 학술대회로, 올해로 42회를 맞이했다.

최근 개최된 ICML에서는 엄격한 심사를 통해 경쟁률이 약 20% 미만으로 집계되는 등 치열한 논문 선발 절차를 통해 혁신적이고 실질적인 기여를 하는 연구 결과가 채택된다.

이번에 채택된 에임인텔리전스의 논문은 최근 산업 현장과 일상생활에서 빠르게 확산 중인 비전언어모델(Vision-Language Model, VLM)의 안전성을 보다 정밀하게 평가하는 새로운 방법론을 제안했다. 비전언어모델은 이미지를 보고 문장을 생성하거나 질문에 답하는 인공지능 모델이다.

기존 평가는 AI가 노골적으로 유해하거나 위험한 요청을 명확히 거부하는지 여부에 중점을 두어 측정돼 왔다.

그러나 이러한 방식으로는 간접적이고 미묘한 형태의 위험을 포착하지 못한다는 한계가 있었다. 이에 따라 실제 서비스 환경에서 예상치 못한 방식으로 유해 콘텐츠가 생성될 수 있는 잠재적 위험성이 지적돼 왔다.

에임인텔리전스는 이러한 문제를 해결하기 위해 'ELITE'라는 새로운 AI 안전성 평가 체계를 개발했다.

ELITE(Enhanced Language-Image Toxicity Evaluation) 시스템은 AI 모델의 다양한 반응 유형에 대해 유해성(toxicity) 점수를 세분화해 산출함으로써, 자동화된 결과와 인간 심사자의 실제 판단이 보다 정확하게 일치할 수 있도록 설계됐다.

에임인텔리전스 유상윤 대표는 "세계적으로 권위를 인정받은 ICML 무대에서 국내 스타트업의 기술력이 공론화됐다는 점에서 큰 의미를 갖는다"며, "앞으로도 누구나 안심하고 사용할 수 있는 AI 환경 조성을 위해 지속적으로 기술 연구와 협력을 강화하겠다"고 말했다.

박현우 기자 다른기사 보기