我的研華會員註冊

「我的研華」為研華客戶專屬服務平台。成為研華會員,您將收到最新產品資訊、研討會邀請和線上商店特殊優惠。

立即註冊,啟用您的會員服務!

NVIDIA RTX PRO Blackwell GPU 기반의 어드밴텍 엣지 AI 시스템, 기업용 온프레미스 LLM 애플리케이션 구현 지원

2025/6/13
NVIDIA RTX PRO Blackwell GPU 기반의 어드밴텍 엣지 AI 시스템, 기업용 온프레미스 LLM 애플리케이션 구현 지원

2025년 6월 13일, 타이베이, 대만 – 생성형 AI 기술이 빠르게 엣지 애플리케이션 영역으로 확산되며, 엔터프라이즈 AI 컴퓨팅 수요가 급격히 증가하고 있습니다. 대규모 언어 모델(LLM)의 발전에 따라, 점점 더 많은 기업들이 정보 보호를 강화하고 비즈니스 요구에 맞춰 유연하게 모델을 최적화하기 위해 자체적으로 LLM을 학습시키는 방식을 선택하고 있습니다. 그러나 연산 성능을 높이면서 에너지 소비와 총 소유 비용(TCO)을 동시에 줄이는 것은 기업들에게 핵심 과제가 되고 있습니다.

어드밴텍의 IPC-730은 NVIDIA RTX PRO 6000 Blackwell 워크스테이션 에디션 GPU를 탑재하여, LLM 학습 및 추론을 위한 고성능 플랫폼을 제공합니다. 최신 NVIDIA RTX PRO Blackwell GPU는 이전 세대 대비 두 배의 메모리 용량과 향상된 CUDA 연산 성능을 제공하며, 어드밴텍의 엣지 AI 솔루션을 통해 토큰당 에너지 소비를 줄이면서 보다 효율적인 AI 연산을 가능하게 합니다.

IPC-730, 600W급 NVIDIA RTX PRO 6000 Blackwell GPU 탑재로 AI 연산 성능 대폭 향상

NVIDIA Blackwell 아키텍처는 기존 컴퓨팅의 한계를 돌파하며, 더 낮은 에너지 소비로 탁월한 성능을 제공합니다. 어드밴텍의 엣지 컴퓨팅 시스템은 IPC-730을 비롯한 고성능 산업용 컴퓨터 및 서버를 포함하며, 최신 NVIDIA Blackwell 시리즈 GPU—NVIDIA RTX PRO 6000 Blackwell 서버 에디션, 워크스테이션 에디션, Max-Q 워크스테이션 에디션—을 완전히 통합하여, 기업이 AI 애플리케이션을 유연하게 배포하고 고성능·저전력 AI 컴퓨팅 솔루션을 구현할 수 있도록 지원합니다.

NVIDIA RTX PRO Blackwell 시리즈 GPU는 2세대 트랜스포머 엔진을 탑재하여 AI 학습 및 추론 효율을 획기적으로 향상시킵니다. 듀얼 슬롯 설계와 GPU당 최대 96GB의 메모리 지원으로, 고성능 AI 연산을 위한 안정성과 성능을 보장합니다. 이전 세대 GPU와 비교해 메모리 용량이 두 배로 증가했으며, 동일한 연산 성능 기준으로 토큰당 전력 소비를 50% 절감하여 총 소유 비용(TCO)을 크게 낮출 수 있습니다. 또한, 산업용 내구성 설계로 장시간 고부하 연산 환경에서도 안정적인 시스템 운영이 가능하며, 어드밴텍은 다양한 애플리케이션 요구에 따라 IPC 또는 서버 기반의 맞춤형 솔루션도 제공하여 기업의 AI 컴퓨팅 수요를 폭넓게 충족시킬 수 있습니다.

어드밴텍의 엣지 AI 솔루션은 다양한 AI 애플리케이션 시나리오를 충족시킵니다. 기업용 AI 정보 분석에서는 실시간 데이터 분석과 의사결정을 지원하여 운영 효율성을 향상시키고, 스마트 헬스케어 분야에서는 의료 기록 분석, 영상 진단, 임상 의사결정 지원 등으로 의료 AI의 정확도를 더욱 높입니다. 또한, 자동화된 고객 응대 시스템은 대규모 언어 모델(LLM) 기술을 활용해 인터랙티브 경험을 최적화하며, 응답 속도를 개선하고 운영 비용을 절감하는 데 기여합니다.

어드밴텍 엣지 AI 솔루션, 테스트 데이터 통해 우수한 성능 입증

어드밴텍의 엣지 AI 솔루션은 다양한 테스트를 통해 우수한 성능을 입증했습니다. LLM 연산 시나리오에서는 토큰 처리 효율이 AI 모델 성능에 큰 영향을 미치며, 이는 Eval Rate, Prompt Eval Rate, VRAM 사용률과 같은 지표로 나타납니다. 이러한 지표들은 모델의 실시간 응답성과 운영 효율성을 결정짓는 핵심 요소입니다. 어드밴텍은 NVIDIA RTX PRO Blackwell GPU의 강력한 연산 성능을 기반으로 토큰 처리 속도를 가속화하고, 언어 모델의 추론 및 학습 성능을 최적화하여 언어 이해 및 콘텐츠 생성 분야에서 최고의 AI 성능을 구현할 수 있도록 지원합니다. 이를 통해 엣지 AI 솔루션의 경쟁력을 한층 더 강화할 수 있습니다.

시스템 모델: IPC-730 + AIMB-789 + RTX PRO 6000 Blackwell 워크스테이션 에디션 / RTX 6000 Ada

3DMark Time Spy 그래픽 벤치마크 테스트에서 RTX PRO 6000 Blackwell 워크스테이션 에디션은 이전 세대인 RTX 6000 Ada 대비 53% 이상의 성능 향상을 보여주었습니다. 이러한 렌더링 성능의 비약적인 향상은 전문가들이 복잡한 시각화 작업, 실시간 레이 트레이싱, 고품질 콘텐츠 제작을 더욱 빠르고 효율적으로 수행할 수 있도록 지원합니다.

3DMark

테스트 항목 RTX PRO 6000 Blackwell 워크스테이션 에디션 RTX 6000 Ada
Time Spy Graphics 50,237 32,659                                                                                             

SPECviewperf 2020 1080p

테스트 항목 RTX PRO 6000 Blackwell 워크스테이션 에디션 RTX 6000 Ada
3dsmax-07 384.45 299.67                                                                                         
catia-06 261.58 217.53
creo-03 307 256.16
energy-03 414.23 257.82
maya-06 873.06 825.25
medical-03 324.15 284.18
snx-04 1468.24 1307.67
solidworks-07 233.25 253.12
NVIDIA RTX PRO Blackwell GPU 기반의 어드밴텍 엣지 AI 시스템, 기업용 온프레미스 LLM 애플리케이션 구현 지원

NVIDIA의 최신 Blackwell 아키텍처를 기반으로 한 RTX PRO 6000 Blackwell 워크스테이션 에디션은 생성형 AI 성능에서 획기적인 도약을 이뤄냈습니다. 이미지 및 텍스트 생성 작업 모두에서 이전 Ada 기반 모델을 크게 앞지르며, 이미지 생성 속도는 최대 77% 빨라졌고, 대규모 언어 모델에서는 토큰 처리량이 최대 37% 향상되었습니다. 핵심 AI 워크로드 전반에 걸쳐 지연 시간이 크게 줄어들었으며, 예를 들어 Stable Diffusion FP16 이미지 생성 시간은 54% 이상 단축되었고, UNET 처리 속도는 47% 향상되어 엣지와 클라우드 환경 모두에서 더욱 매끄럽고 반응성 높은 AI 경험을 제공합니다.

Procyon

테스트 항목 RTX PRO 6000 Blackwell 워크스테이션 에디션 RTX 6000 Ada
AI 이미지 생성
Stable Diffusion 1.5 FP16 (TensorRT)
Image Generation Speed (s/image) 0.695 1.529
Stable Diffusion 1.5 INT8 (TensorRT)
Image Generation Speed (s/image) 0.391 0.578
UNET Speed (it/s) 133.033 90.281
AI 텍스트 생성
Phi-3.5-mini-instruct (ONNXRuntime)
Average Output Token Speed (tokens/s) 316.89 230.8
Llama-3.1-8b-instruct (ONNXRuntime)
Average Output Token Speed (tokens/s) 219.66 142.87
NVIDIA RTX PRO Blackwell GPU 기반의 어드밴텍 엣지 AI 시스템, 기업용 온프레미스 LLM 애플리케이션 구현 지원
NVIDIA RTX PRO Blackwell GPU 기반의 어드밴텍 엣지 AI 시스템, 기업용 온프레미스 LLM 애플리케이션 구현 지원

어드밴텍, 차세대 LLM 컴퓨팅의 기업 도입 가속화

어드밴텍은 NVIDIA 엘리트 파트너로서 GPU가 통합된 산업용 고성능 컴퓨터 및 서버를 개발하며 엣지 AI 컴퓨팅 기술을 지속적으로 발전시키고 있습니다. 이를 통해 기업들은 대규모 언어 모델(LLM) 애플리케이션을 효율적으로 구축할 수 있으며, 더욱 유연하고 에너지 효율적이며 비용 효율적인 엣지 AI 컴퓨팅 솔루션을 구현할 수 있습니다. 현재 모든 제품은 주문이 가능합니다. 지금 어드밴텍에 문의하시어 귀사의 엣지 AI 컴퓨팅 여정을 앞당겨보세요.