어드밴텍, NVIDIA H200 NVL로 생성 AI를 강화하고 LLM 배포를 가속화하며 머신 비전을 최적화하여 효율성 개선
11.12.2024
-(1).png)
산업용 엣지 AI 솔루션의 선도적인 글로벌 공급업체인 어드밴텍은 NVIDIA H200 NVL 플랫폼이 장착된 GPU 서버 SKY-602E3를 출시하게 되어 기쁩니다. 이 강력한 조합은 제조를 위한 오프라인 LLM을 가속화하여 전례 없는 수준의 성능과 효율성을 제공합니다. 600W 수동 냉각이 필요한 NVIDIA H200 NVL은 컴팩트한 사이즈 효율적인 SKY-602E3 GPU 서버에서 완벽하게 지원되므로 까다로운 엣지 AI 애플리케이션에 이상적인 솔루션입니다.
공장 LLM 배포의 핵심 : AI 비전
SKY-602E3 GPU 서버는 AI 추론 및 훈련을 위한 대규모 언어 모델(LLM)을 지원하는 데 뛰어난 성능을 발휘합니다. 이 서버는 4개의 PCIe 5.0 x16 슬롯을 갖추고 있어 집약적인 작업을 위한 높은 대역폭을 제공하며, 4개의 PCIe 5.0 x8 슬롯은 GPU 및 프레임 그래버 카드 확장을 위한 유연성을 향상시킵니다. SKY-602E3의 절반 너비의 디자인은 워크스테이션 환경에 매우 적합합니다. 또한, 이 서버는 NVIDIA H200 NVL 플랫폼으로 장착 가능하며, 이는 NVIDIA H100 NVL보다 1.7배 더 높은 성능을 제공하여 다른 확장 요구를 위한 추가 PCIe 슬롯을 확보할 수 있습니다. GPU 성능이 향상되고 내부 공간 활용이 효율적으로 개선된 SKY-602E3는 AI 머신 비전 애플리케이션 및 기타 계산 집약적인 작업을 발전시키기에 이상적입니다. NVIDIA H200 NVL은 유연한 구성을 필요로 하는 저전력 공기 냉각 엔터프라이즈 랙 디자인에 적합하며, 크기에 관계없이 모든 AI 및 HPC 워크로드의 가속을 제공합니다. 최대 4개의 GPU가 NVIDIA NVLink로 연결되고 1.5배의 메모리 증가로, LLM 추론은 최대 1.7배 가속되고 HPC 애플리케이션은 NVIDIA H100 NVL보다 최대 1.3배 더 높은 성능을 달성할 수 있습니다.
산업 환경의 까다로운 요구를 충족하기 위해 SKY-602E3는 견고한 산업 등급 기능을 통합하고 있습니다. 자석식 전면 패널은 도구 없이도 접근할 수 있게 하여, 도구나 손으로 작동하는 메커니즘이 필요한 전통적인 디자인에 비해 유지보수를 크게 간소화합니다. 이 서버는 또한 사용자가 특정 애플리케이션 시나리오에 따라 냉각 솔루션을 사용자화할 수 있도록 교체 가능한 스마트 팬을 지원합니다. 또한, 전면 패널에는 통합된 먼지 필터가 포함되어 있어 먼지와 이물질이 흔한 열악한 산업 환경에서도 신뢰할 수 있는 작동을 보장합니다.
어드밴텍, 엣지 컴퓨팅 가속화
산업 컴퓨팅 분야의 선두주자이자 NVIDIA 파트너 네트워크의 일원인 어드밴텍은 NVIDIA와 협력하여 포괄적인 엣지 AI 솔루션을 제공하고 있으며, 전체 범위의 AI IPC 및 AI 서버 솔루션을 제공합니다. NVIDIA H200 NVL로 구동되는 SKY-602E3은 현재 주문 가능합니다. 자세한 제품 사양 및 솔루션 정보는 Advantech 웹사이트를 방문하세요.
【제품 정】
- 400-600W
- 141 GB HBM3e
- 4800 GB/
- 각각 최대 7개의 MIG @16.5GB
- 2방향 (NVL2) - 900GB/s 4방향 (NVL4) - 1800GB/s
- 단일 AMD® EPYC™ 임베디드 8004 시리즈 서버 프로세서
- 6 x DDR5-4800 MHz ECC RDIMM, 최대 576GB
- 4개의 PCIe x16 더블 덱 FH/10.5" 카드 또는 2개의 PCIe x16 더블 덱 FH/10.5" 카드 + 4개의 PCIe x8 싱글 덱 FH/10.5" 카드 지원
- 원격 관리: IPMI 기능 지원
-25/SKY-602E320240201102210.png)
