Máy chủ GPU Advantech giúp tăng tốc triển khai ứng dụng Gen AI, LLM, thị giác máy với NVIDIA H200 NVL
16/12/2024
Advantech, nhà cung cấp giải pháp AI biên công nghiệp hàng đầu thế giới, hân hạnh giới thiệu máy chủ GPU SKY-602E3 được trang bị nền tảng NVIDIA H200 NVL. Sự kết hợp mạnh mẽ này được thiết lập để tăng tốc LLM ngoại tuyến cho sản xuất, cung cấp mức hiệu suất và hiệu quả chưa từng có. NVIDIA H200 NVL, yêu cầu làm mát thụ động 600W, được hỗ trợ đầy đủ bởi máy chủ GPU SKY-602E3 nhỏ gọn và hiệu quả, khiến nó trở thành giải pháp lý tưởng cho các ứng dụng AI biên với nhiều đòi hỏi khắt khe.
Cốt lõi của việc triển khai LLM tại nhà máy: AI Vision
Máy chủ GPU SKY-602E3 vượt trội trong việc hỗ trợ các mô hình ngôn ngữ lớn (LLM) để suy luận và đào tạo AI. Máy chủ này có bốn khe cắm PCIe 5.0 x16, cung cấp băng thông cao cho các tác vụ chuyên sâu và bốn khe cắm PCIe 5.0 x8, mang lại tính linh hoạt nâng cao cho GPU và mở rộng card frame grabber. Thiết kế nửa chiều rộng của SKY-602E3 khiến máy chủ này trở thành lựa chọn tuyệt vời cho môi trường máy trạm. Ngoài ra, máy chủ có thể được trang bị nền tảng NVIDIA H200 NVL, cung cấp hiệu suất cao hơn 1,7 lần so với NVIDIA H100 NVL, giải phóng thêm các khe cắm PCIe cho các nhu cầu mở rộng khác. Với hiệu suất GPU được cải thiện và sử dụng không gian bên trong hiệu quả, SKY-602E3 lý tưởng để thúc đẩy các ứng dụng thị giác máy AI và các tác vụ tính toán chuyên sâu khác. NVIDIA H200 NVL lý tưởng cho các thiết kế giá đỡ doanh nghiệp làm mát bằng không khí, công suất thấp hơn yêu cầu cấu hình linh hoạt, mang lại khả năng tăng tốc cho mọi khối lượng công việc AI và HPC bất kể quy mô. Với tối đa bốn GPU được kết nối bằng NVIDIA NVLink và bộ nhớ tăng 1,5 lần, suy luận LLM có thể được tăng tốc lên tới 1,7 lần và các ứng dụng HPC đạt hiệu suất cao hơn tới 1,3 lần so với NVIDIA H100 NVL.
Để đáp ứng các yêu cầu khắt khe của môi trường công nghiệp, SKY-602E3 tích hợp các tính năng mạnh mẽ, cấp công nghiệp. Bảng điều khiển phía trước của nó cho phép truy cập đơn giản mà không cần công cụ, đơn giản hóa đáng kể việc bảo trì so với các thiết kế truyền thống yêu cầu công cụ hoặc cơ chế vận hành bằng tay. Máy chủ cũng hỗ trợ quạt thông minh có thể thay thế, cho phép người dùng tùy chỉnh các giải pháp làm mát dựa trên các tình huống ứng dụng cụ thể để tối ưu hóa hiệu suất. Hơn nữa, bảng điều khiển phía trước bao gồm một bộ lọc bụi tích hợp để giúp đảm bảo hoạt động đáng tin cậy trong môi trường công nghiệp khắc nghiệt, nơi các chất gây ô nhiễm như bụi và mảnh vụn thường gặp.
Advantech tăng tốc điện toán biên
Là công ty hàng đầu trong lĩnh vực điện toán công nghiệp và là thành viên của NVIDIA Partner Network, Advantech đang hợp tác với NVIDIA để cung cấp các giải pháp AI toàn diện, cung cấp đầy đủ các giải pháp AI IPC và AI server. SKY-602E3, được cung cấp bởi NVIDIA H200 NVL, hiện đã có thể đặt hàng. Để biết thông số kỹ thuật chi tiết của sản phẩm và thông tin về giải pháp, quý vị có thể tìm hiểu trên website của chúng tôi hoặc liên hệ với Advantech Việt Nam để được hỗ trợ.
- 400-600W
- 141 GB HBM3e
- 4800 GB/sec
- Up to 7 MIGs @16.5GB each
- 2-way (NVL2) - 900GB/s 4-way (NVL4) - 1800GB/s
- Single AMD® EPYC™ Embedded 8004 Series Server Processor
- 6 x DDR5-4800 MHz ECC RDIMM, up to 576GB
- Supports 4 x PCIe x16 double-deck FH/10.5" cards or 2 x PCIe x16 double deck FH/10.5" cards + 4 x PCIe x8 single deck FH/10.5" cards
- Remote Management: IPMI function support
-25/SKY-602E320240201102210.png)
