Key Takeaway
어드밴텍은 이제 NIM 및 CUDA-X 마이크로서비스와 함께 확장 가능한 AI 솔루션을 제공하는 NVIDIA AI Enterprise를 배포합니다. 지금 바로 Gen AI 배포를 가속화하세요!
산업용 IoT 분야의 글로벌 리더인 어드밴텍(대만증권거래소: 2395)이 엔비디아 AI 엔터프라이즈의 공식 유통업체가 되었다고 발표했습니다. 이를 통해 고객은 맞춤형 LLM을 사용하는 온프레미스 솔루션으로 비즈니스 데이터를 활용할 수 있습니다. 이러한 솔루션은 엔비디아 AI 엔터프라이즈와 함께 배포되며, 엔비디아 AI 마이크로서비스를 활용하여 강력하고 확장 가능한 AI 인프라를 제공합니다. 최신 NVIDIA AI 엔터프라이즈 5.0 플랫폼에는 두 가지 주요 그룹으로 분류되는 수십 개의 생성형 AI 마이크로서비스가 포함되어 있습니다. NIM과 CUDA-X. NIM은 대규모 AI 모델 배포를 위한 최적화된 추론 마이크로서비스에 중점을 두고 있으며, CUDA-X는 데이터 처리, AI 및 고성능 컴퓨팅 애플리케이션을 대상으로 합니다. 약 200명의 엣지 AI 전문가와 글로벌 전문가를 보유한 어드밴텍은 NVIDIA AI 엔터프라이즈 소프트웨어 및 서비스를 제공할 뿐만 아니라 SKY-600 시리즈 AI 서버 및 AIR-500 시리즈 워크스테이션과 같은 NVIDIA 인증 시스템도 제공합니다. 이를 통해 어드밴텍 하드웨어에 NVIDIA AI 엔터프라이즈 소프트웨어 툴 및 플랫폼의 설치 및 배포를 가속화하여 고객이 가치 있는 AI 애플리케이션 개발에 집중할 수 있도록 지원합니다. 대만 타이베이 - 2024년 6월 -
엔터프라이즈급 추론 마이크로서비스와 함께 배포 시간을 대폭 단축하는 NIM
NIM 추론 마이크로서비스는 Triton 추론 서버™ 및 TensorRT™-LLM을 비롯한 NVIDIA 추론 소프트웨어로 구동되는 사전 구축된 컨테이너를 제공합니다. 이러한 도구를 통해 개발자는 배포 시간을 몇 주에서 몇 분으로 단축할 수 있습니다. 마이크로서비스는 언어, 음성, 약물 발견과 같은 도메인에 대한 업계 표준 API를 제공하여 개발자가 자체 인프라에서 안전하게 호스팅된 독점 데이터를 사용하여 AI 애플리케이션을 빠르게 만들 수 있도록 지원합니다. 또한 NIM은 이러한 애플리케이션 배포를 관리하고 확장하여 NVIDIA 플랫폼에서 제너레이티브 AI를 실행하기 위한 뛰어난 유연성과 성능을 제공합니다.
RAG, 데이터 처리, 가드레일 및 HPC를 위한 CUDA-X 마이크로서비스
기업들은 다양한 산업 전반에서 생산 AI 개발을 가속화하기 위해 여러 NVIDIA CUDA-X 마이크로서비스를 활용할 수 있습니다. 여기에는 맞춤형 음성 및 번역 AI를 위한 NVIDIA Riva, 최적의 경로 계획을 위한 NVIDIA cuOpt™, 고해상도 기후 및 날씨 시뮬레이션을 위한 NVIDIA Earth-2 등이 있으며, 모두 AI 채택을 가속화하는 데 목적이 있습니다. 개발자는 NeMo Retriever™ 마이크로서비스를 통합하여 텍스트, 이미지, 시각적 RAG, 데이터 처리, 가드레일 및 막대 차트와 같은 HPC를 위한 CUDA-X 마이크로서비스데이터와 같은 비즈니스 데이터와 AI 애플리케이션을 연결할 수 있습니다. 이러한 기능을 통해 기업은 AI 코파일럿, 챗봇, 생성형 AI 도구에 더 많은 데이터를 제공하여 정확도와 인사이트를 향상시킬 수 있습니다.
소프트웨어 애드온 서비스
어드밴텍의 티어 1 지원과 NVIDIA AI 엔터프라이즈의 강력한 성능을 결합하여 고객은 더 빠르고, 자신 있게, 효율적으로 엣지 AI 솔루션을 배포하고 유지 관리할 수 있습니다. 어드밴텍의 티어 1 지원 서비스는 다음과 같습니다:
- 시스템 인증 서비스 : 엄격한 테스트 및 인증 프로세스를 통해 엣지 AI 플랫폼의 신뢰성과 안정성을 보장합니다.
- 운영 체제 호환성 상담: 특정 하드웨어 및 소프트웨어 요구 사항에 맞는 최적의 운영 체제 선택에 대한 전문가의 조언을 받을 수 있습니다.
- 크로스 플랫폼 추론 컴퓨팅 가이드: 확장성과 유연성 향상을 위해 크로스 플랫폼 환경으로 전환하는 데 필요한 인사이트를 얻을수있습니다
- 엣지-클라우드 통합 상담: 효율적인 데이터 관리 및 분석을 위한 원활한 에지-클라우드 아키텍처를 개발할수있습니다
- 산업 사이버 보안 솔루션: 강력한 보안 조치를 구현하여 사이버 위협으로부터 엣지 AI 시스템을 보호할수있습니다.
산업용 컴퓨팅 분야에서 40년간 쌓아온 전문성을 바탕으로 어드밴텍은 NVIDIA와의 협업을 통해 고객을 위한 포괄적이고 효율적이며 안전한 AI 애플리케이션 개발 플랫폼과 툴 세트를 개발했습니다. 어드밴텍의 일선 지원은 플랫폼 설정 중 호환성 및 사용성 문제를 해결하고, NVIDIA의 AI 전문가는 NVIDIA AI SDK와 관련된 모든 개발 문제를 해결하기 위해 직접적인 지원을 제공합니다. 이를 통해 AI 애플리케이션 개발의 가속화 및 최적화된 결과를 보장할수있습니다. NVIDIA AI 엔터프라이즈에 대한 자세한 내용은 체험판을 신청하거나 어드밴텍 제품 페이지를 방문하시길 바랍니다.