[인더스트리뉴스 최종윤 기자] 엣지 컴퓨팅의 글로벌리더 에이디링크 테크놀로지가 새로운 ‘DLAP Supreme’ 엣지 생성 AI 플랫폼 시리즈를 발표했다.
이 시리즈는 Phison의 혁신적인 aiDAPTIV+ AI 솔루션을 통합해 엣지 생성 AI 애플리케이션에서 메모리 제한 문제를 극복하고, 엣지 디바이스의 AI 컴퓨팅 성능을 크게 향상시켰다.
고가의 하드웨어 비용을 상승시키지 않으면서도 AI 성능 개선을 실현했으며, 이를 통해 기업들이 AI 배포의 비용 장벽을 낮추고, 특히 엣지 컴퓨팅을 중심으로 다양한 산업에서 생성 AI 채택을 가속화할 수 있도록 지원한다.
AI 컴퓨팅 비용을 절감하면서 성능은 대폭 향상
생성 AI가 다양한 산업에 확산됨에 따라 많은 엣지 디바이스는 대형 언어 모델을 실행할 때 DRAM 용량 부족으로 성능 병목 현상을 겪고 있으며, 이는 모델 운영에 영향을 미치고 토큰 길이 부족과 같은 문제를 일으키고 있다.
aiDAPTIV+ 기술을 활용한 DLAP Supreme 시리즈는 이러한 제한을 효과적으로 극복하고 컴퓨팅 성능을 크게 향상 시킨다.
또한 엣지 디바이스가 생성 언어 모델 훈련을 수행할 수 있도록 AI 모델 훈련 기능을 제공하고, 자율 학습 및 적응 능력을 높인다.
예를 들어 NVIDIA Jetson AGX Orin 32GB 구성과 Gemma 27B 모델을 함께 사용한 DLAP-411 Orin Supreme을 활용하면, 추론 TTFT가 8배 향상되고 토큰 길이가 4배 증가한다.
또한 일반적으로 H100/A100 80G 텐서 코어 GPU가 필요한 모델 훈련 작업을 실행할 수 있어, 생성 AI 모델 운영 성능을 크게 향상시키면서 생성 AI 애플리케이션의 배포 비용을 획기적으로 절감할 수 있다.
신뢰할 수 있는 AI 솔루션을 구축하기 위한 심층 협업
에이디링크 Ethan Chen 엣지 컴퓨팅 플랫폼 비즈니스 유닛 총괄 관리자는 “우리는 DLAP Supreme 시리즈를 통해 더 많은 기업과 조직이 생성 AI 기술을 쉽게 도입하면서 성능을 향상시키고 비용을 절감할 수 있도록 돕는 것을 목표로 한다”면서, “또 Phison 및 글로벌 AI 파트너들과 긴밀히 협력해 공동 AI 애플리케이션 생태계를 구축하고 생성 AI 기술의 확산을 촉진할 것”이라고 말했다.
Phison Electronics의 K.S. Pua CEO는 “Phison은 산업용 스토리지 시장에서 에이디링크와 10년 넘게 협력해 오면서 기술 혁신을 주도하고 산업에 가장 가치 있는 솔루션을 제공해 왔다”면서, “협업을 통해 우리는 다양한 애플리케이션과 시장에서 모델 미세 조정에 엣지 AI 채택을 가속화하고 확장하는 것을 목표로 하며, 특히 스마트제조, 스마트도시, 기타 산업적 시나리오에서 그 가능성을 열어갈 것”이라고 밝혔다.
애플리케이션 확장 및 다양한 모듈 지원
DLAP Supreme 시리즈 출시는 엣지 생성 AI 애플리케이션을 위한 새로운 기회를 열어줄 뿐만 아니라, 다양한 산업이 메모리 제한을 극복하고 AI 기술의 잠재력을 완전히 발휘할 수 있도록 돕는다.
aiDAPTIV+ 기술은 AGX Orin에 대한 획기적인 최적화 외에도 Orin Nano, NX, Super 모듈의 메모리 확장도 지원해 더 많은 디바이스가 고효율 AI 컴퓨팅을 수행할 수 있게 한다.
에이디링크는 DLAP Supreme 시리즈의 애플리케이션 범위를 더욱 확장하고 다양한 AI 컴퓨팅 요구를 충족시키기 위해 Orin Nano Super와 NX Super 버전을 지속적으로 출시할 계획이다.
