Advantech xây dựng quan hệ đối tác chiến lược với Namla để mở rộng triển khai AI & LLM tại biên

Advantech, nhà cung cấp nền tảng AI công nghiệp hàng đầu, rất hân hạnh thông báo về quan hệ đối tác với Namla, nhà cung cấp nền tảng Cloud Native Edge Orchestration. Sự hợp tác này đánh dấu một cột mốc quan trọng trong ngành Edge AI, tối ưu hóa việc triển khai cơ sở hạ tầng Edge và cho phép khai thác toàn bộ tiềm năng của kiến ​​trúc Cloud Native trên phần cứng Edge AI mạnh mẽ.

Namla - Advantech: Kết hợp để mở rộng

Việc tích hợp nền tảng Edge Orchestration của Namla với các thiết bị Edge AI tiên tiến của Advantech, được hỗ trợ bởi NVIDIA Jetson, cung cấp cho các công ty một cơ sở hạ tầng có khả năng mở rộng và đáng tin cậy cho các triển khai Edge của họ. Khung Zero Touch Deployment (ZTD) được Namla áp dụng trên toàn cầu hợp lý hóa việc triển khai các thiết bị Advantech ở quy mô lớn, rút ​​ngắn thời gian đưa ra thị trường và giảm chi phí tới 90%. Tận dụng lớp phối hợp dựa trên Kubernetes, Namla đảm bảo một môi trường đám mây gốc để quản lý và triển khai hiệu quả các ứng dụng Edge AI trên nhiều địa điểm, tăng cường độ tin cậy và thời gian hoạt động của dịch vụ.

Namla cũng đã giới thiệu giải pháp Cloud-Native SD-WAN đầu tiên trong ngành, được tích hợp hoàn toàn với nền tảng phối hợp của mình và tương thích với mọi phần cứng, bao gồm cả các thiết bị NVIDIA Jetson. Bằng cách sử dụng Cloud-Native SD-WAN của Namla trên các thiết bị Advantech Edge, các công ty được hưởng lợi từ khả năng kết nối từ biên đến đám mây an toàn và đáng tin cậy. Giải pháp này cho phép phân phối liền mạch các ứng dụng AI trên các vị trí phân tán, tối ưu hóa các đường ống AI và cải thiện hiệu quả hoạt động.

"Chúng tôi rất vui mừng khi thông báo về quan hệ đối tác giữa Advantech và Namla, kết hợp các nền tảng Edge AI hàng đầu trong ngành của Advantech với chuyên môn về phần mềm SD-WAN và phối hợp tiên tiến của Namla", ông Magic Pao, Phó chủ tịch nhóm Cloud IoT của Advantech cho biết. "Cùng nhau, chúng tôi đang thúc đẩy thế hệ điện toán biên thông minh tiếp theo, cung cấp các giải pháp AI biên nhanh hơn, linh hoạt hơn và có khả năng mở rộng hơn, giúp chuyển đổi dữ liệu thành thông tin chi tiết có thể hành động theo thời gian thực. Sự hợp tác này được thiết lập để chuyển đổi các ngành công nghiệp bằng cách nâng cao hiệu quả hoạt động và trao quyền cho các doanh nghiệp để khai thác toàn bộ tiềm năng của dữ liệu tại biên, đồng thời vẫn duy trì trọng tâm vào tính bền vững và đổi mới".

Mang LLM đến biên

Bản phát hành gần đây của NVIIDA VLM và LLM, được hỗ trợ bởi khuôn khổ NIM, đã mở đường cho những cơ hội và ứng dụng mới. Với việc NVIIDA đẩy nhanh việc triển khai VLM tại biên, bằng chứng là bản phát hành Jetpack 6 - các tổ chức hiện có thể giảm mức tiêu thụ băng thông, đạt được kết quả theo thời gian thực và cải thiện quyền riêng tư dữ liệu. Để đáp ứng nhu cầu, các công ty đang tìm kiếm các chiến lược quản lý hiệu quả hơn cho các lần triển khai này. Giải pháp Zero Touch Deployment (ZTD) của Namla cho phép tích hợp nhanh chóng và liền mạch hàng nghìn thiết bị AI Edge chạy NVIDIA Jetson, hợp lý hóa quy trình triển khai và nâng cao hiệu quả tổng thể.

Ngoài ra, các cụm Edge dựa trên Kubernetes của Namla cho phép các nhóm DevOps và kỹ sư AI triển khai liền mạch LLM và các mô hình AI khác tại Edge mà không cần lo lắng về cơ sở hạ tầng cơ bản. Mỗi thiết bị Edge hoạt động như một máy ảo trên đám mây, đơn giản hóa quy trình triển khai và tăng cường khả năng mở rộng.

Lớp phủ bảo mật SD-WAN của Namla, được thiết lập giữa đám mây và biên, không chỉ đảm bảo kết nối an toàn và đáng tin cậy để triển khai LLM một cách năng động mà còn tạo ra một mạng phẳng giữa các nút đám mây và thiết bị Edge. Điều này cho phép triển khai kết hợp, tăng cường tính linh hoạt và hiệu quả hoạt động.

Những ứng dụng đa dạng

Sự kết hợp mạnh mẽ giữa Namla, Advantech và NVIDIA mang đến giải pháp đột phá cho các triển khai Edge AI quy mô lớn. Nền tảng phối hợp đám mây gốc của Namla, kết hợp với giải pháp SD-WAN sáng tạo chạy trên mọi thiết bị, bao gồm cả NVIDIA Jetson, đặt ra một tiêu chuẩn mới cho việc mở rộng quy mô Edge AI.

"Tại Namla, chúng tôi rất vui mừng được hợp tác với Advantech để cung cấp các giải pháp AI tiên tiến trên khắp các ngành. Nền tảng dựa trên Kubernetes của chúng tôi tích hợp liền mạch với phần cứng của Advantech, bao gồm NVIDIA Jetson và các thiết bị dựa trên GPU khác, cho phép triển khai các ứng dụng AI như NVIDIA NIM và nhiều ứng dụng khác tại Edge và ở quy mô lớn." Ông Younes Khadraoui, đồng sáng lập kiêm giám đốc tài chính của Namla cho biết. “Sự hợp tác này, kết hợp với Cloud Native SD-WAN của Namla, đảm bảo kết nối từ biên đến đám mây đáng tin cậy và an toàn, trao quyền cho các doanh nghiệp mở khóa thông tin chi tiết theo thời gian thực, thúc đẩy hiệu quả hoạt động và đổi mới tại Biên, tất cả đều có sự linh hoạt và khả năng mở rộng cần thiết để đáp ứng nhu cầu của các ngành công nghiệp hiện đại.”

An toàn và bảo mật

Sử dụng khuôn khổ Zero Touch Deployment (ZTD) của Namla, các ISV, SI và MSP có thể triển khai hiệu quả hàng trăm hệ thống bảo mật dựa trên phần cứng NVR chuyên dụng của Advantech trên các địa điểm phân tán. Sự phối hợp gốc trên nền tảng đám mây của Namla chuyển đổi cách các tổ chức này quản lý cơ sở hạ tầng Edge, cho phép triển khai động các ứng dụng bảo mật mới trên các thiết bị Edge mà không cần phải đến tận nơi hoặc cấu hình thủ công.

Edge-GenAI

Khả năng tương thích của Namla với các thiết bị NVIDIA Jetson do Advantech cung cấp cho phép các tổ chức mở rộng quy mô triển khai các ứng dụng AI tạo sinh (GenAI) tại Edge, như LLM hoặc VLM bằng NIM của NVIDIA hoặc các khuôn khổ tương tự khác. Việc phối hợp dựa trên Kubernetes của Namla cho phép dễ dàng triển khai các mô hình này tại hàng trăm địa điểm, nhưng cũng có khả năng hiển thị hoàn toàn về hiệu suất của chúng. Hơn nữa, khả năng kết nối mạng an toàn và đáng tin cậy của Namla cho phép xây dựng đường ống MLOps mạnh mẽ từ biên đến đám mây. Điều này mở ra một loạt các khả năng, chẳng hạn như tạo quảng cáo động, được cá nhân hóa, hệ thống điểm bán lẻ thông minh và trợ lý thông minh hoặc thậm chí là nâng cao hệ thống giám sát video.

Công Nghiệp 4.0

Namla cung cấp dịch vụ điều phối Edge tại chỗ được thiết kế riêng cho các môi trường công nghiệp thường thiếu kết nối bên ngoài. Sự tích hợp liền mạch của dịch vụ điều phối dựa trên Kubernetes của Namla với phần cứng công nghiệp chắc chắn của Advantech mang đến giải pháp mạnh mẽ, sẵn sàng triển khai các ứng dụng AI và IoT với nỗ lực tối thiểu.

AI cho chăm sóc sức khoẻ

Khi AI tiếp tục cách mạng hóa chăm sóc sức khỏe, nhu cầu về các giải pháp hỗ trợ GPU Edge đang tăng nhanh chóng. Với Namla, các trung tâm y tế và ISV chăm sóc sức khỏe có thể triển khai các hệ thống AI cấp độ y tế của Advantech, chẳng hạn như NVIDIA IGX, theo cách an toàn và đáng tin cậy. Điều này cho phép triển khai và quản lý hiệu quả các ứng dụng trên các dịch vụ hoặc trung tâm phân tán, cung cấp cho các nhà cung cấp dịch vụ chăm sóc sức khỏe các công cụ mạnh mẽ để nâng cao hiệu quả chăm sóc bệnh nhân và hoạt động.

AI độ trễ thấp thông qua 5G

PandaBox của Namla, được hỗ trợ bởi phần cứng Advantech và NVIDIA Jetson, tạo nên cuộc cách mạng ứng dụng AI có độ trễ thấp qua 5G. Với PandaBox, các ngành công nghiệp viễn thông và như dầu khí, sản xuất và khai khoáng có thể nhanh chóng triển khai mạng 5G riêng với khả năng AI tại Edge, cung cấp các ứng dụng AI với độ trễ cực thấp và hiệu quả triển khai mới.

Sự hợp tác giữa Namla, Advantech và NVIDIA đánh dấu bước tiến đáng kể trong công nghệ Edge AI. Với khả năng phối hợp đám mây gốc tiên tiến của Namla, triển khai ZTD và khả năng SD-WAN, kết hợp với phần cứng hiệu suất cao của Advantech được hỗ trợ bởi NVIDIA Jetson, các doanh nghiệp trong nhiều ngành hiện có thể mở rộng quy mô các ứng dụng do AI điều khiển tại Edge với tốc độ, hiệu quả và bảo mật chưa từng có. Sự tích hợp này không chỉ giúp giảm thời gian và chi phí triển khai mà còn mở ra khả năng đổi mới vô hạn trong các lĩnh vực như an toàn và bảo mật, Công nghiệp 4.0, AI tạo sinh và AI có độ trễ thấp qua mạng 5G. Tương lai của Edge AI đã ở đây, cung cấp các giải pháp có khả năng mở rộng, đáng tin cậy và mang tính chuyển đổi cho các doanh nghiệp trên toàn thế giới.

Advantech là đối tác phần cứng đáng tin cậy cho các công ty AI, công nghiệp và mạng hàng đầu trên toàn cầu. Advantech là đối tác Elite NVIDIA, nắm giữ mức cam kết cao nhất đối với quan hệ đối tác, với đề xuất giá trị độc đáo cung cấp một loạt các nền tảng dựa trên NVIDIA có thể mở rộng từ MIC-733-AO, ​​thiết bị Jetson cỡ lòng bàn tay đến máy chủ AI biên được tối ưu hóa, SKY-620V3, NVIDIA giúp tối đa hóa mật độ GPU trong thiết kế công nghiệp, sẵn sàng triển khai tại biên. Các thiết bị và máy chủ AI biên này lý tưởng cho việc triển khai tại cơ sở của khách hàng, để xây dựng một biên khách hàng hợp nhất, do AI thúc đẩy, để có thể chạy khối lượng công việc AI và SD-WAN từ đám mây đến biên một cách liền mạch.

Để biết thêm về sự hợp tác, vui lòng tải xuống sách trắng sau đây: