Đánh giá sản phẩm Advantech MIC-730AI NVIDIA Jetson Xavier Edge AI

Có rất ít bài đánh giá mà chúng tôi thực sự nỗ lực rất nhiều để kiểm tra một sản phẩm. Trong bài đánh giá sản phẩm Advantech MIC-730AI của chúng tôi, chúng tôi sẽ giới thiệu rất nhiều về giải pháp sáng tạo mà công ty có. Được xây dựng dựa trên nền tảng NVIDIA Jetson Xavier, chúng tôi đã biến STH studio thành một hệ thống kiểm tra lỗi dệt. Trong bài đánh giá của chúng tôi, chúng tôi sẽ trình bày cách thức hoạt động của sản phẩm NVIDIA AI edge này và sau đó chúng tôi sẽ demo cách mà nó hoạt động.

Mặt trước của thiết bị chứa tất cả các cổng I/O, chúng ta có thể thấy I/O là một yếu tố quan trọng trong các loại máy tính biên như thế này. Di chuyển từ trái sang phải chúng ta có nút nguồn và một khe cắm mở rộng ở phía dưới. Chúng tôi cũng có khối DI / DO 16 bit màu xanh lục. Bên cạnh đó là hai cổng COM. Hai cổng LAN đều là Gigabit. Một chiếc là Marvell 88E1512 và chiếc còn lại là Intel i210.

Có hai cổng USB 2.0 và hai cổng USB 3.0. Người ta sẽ thấy ở hai bên có các lỗ để giúp các đầu nối tùy chỉnh giữ lại các đầu cắm USB Type A. Người ta cũng có thể thấy đầu ra video HDMI và các giắc nguồn điện / nối đất.

Toàn bộ thiết bị có kích thước 192mm x 230mm x 87mm và một phần lớn trong số đó là lớp vỏ kim loại bên ngoài: bộ phận tản nhiệt làm mát thụ động. Bộ tản nhiệt thụ động này được thiết kế để cho phép hệ thống chạy mà không cần quạt ở nhiệt độ hoạt động lên đến 55C-60C tùy thuộc vào chế độ hoạt động.

Bộ tản nhiệt đó chủ yếu làm mát cho NVIDIA Jetson Xavier SOM. SOM này nằm trên cùng của PCB hệ thống chính, nó cũng có các tính năng như các cổng được hiển thị ở trên.

NVIDIA Jetson Xavier SoC được thiết kế để cung cấp khả năng tăng tốc AI vision trong một gói chip duy nhất với tám lõi Arm v8.2 Carmel và khả năng tăng tốc mã hóa / giải mã video cùng với GPU thế hệ Volta.

CPU cũng có 32GB bộ nhớ LPDDR4X trên mô-đun. Theo một số cách, điều này không quá khác biệt với phiên bản chip Apple M1 của NVIDIA, ngoại trừ việc NVIDIA đang tập trung vào AI video và Apple là thị trường máy tính để bàn. Các lõi CPU của NVIDIA không quá nhanh với hiệu suất số nguyên xung quanh mức hiệu suất của Intel Xeon E3-1240. Mặt khác, GPU thế hệ Volta có nghĩa là chúng ta có các lõi tensor trên bo mạch. Đây không phải là một CPU thay thế cho máy tính để bàn, mà là CPU được thiết kế nhiều hơn để cho phép sử dụng GPU và các bộ tăng tốc.

Dưới đây là sơ đồ bố trí CPU NVIDIA Jetson Xavier. Người ta có thể thấy 2MB bộ nhớ đệm L2 trên hai lõi NVIDIA Arm Carmel và sau đó là bộ nhớ đệm chia sẻ 4MB L3.

Ở phía dưới cùng của bo mạch chủ có rất nhiều I/O mở rộng bên trong. Chúng ta thường bắt đầu từ trên xuống và di chuyển xuống dưới cùng, nhưng ở đây thay vào đó chúng ta sẽ di chuyển từ dưới lên.

Ở cạnh dưới theo hướng của chúng ta, chúng ta có bảng nguồn DC. Người ta có thể thấy đầu vào nguồn DC trên phần tổng quan về cổng. Đây là mặt bên trong của đầu nối đó. Chúng tôi sẽ nhanh chóng lưu ý đối với một số độc giả của chúng tôi ít am hiểu về không gian nhúng rằng có thể có bộ chuyển đổi AC để sử dụng trên máy tính để bàn ngay cả với đầu nối đầu vào nguồn điện kiểu thùng hoặc công nghiệp. Phiên bản công nghiệp được thiết kế đơn giản để an toàn hơn và ngăn chặn việc bị vô tình loại bỏ.

Bên trên bảng nguồn này, chúng ta có kết nối với PCB chính. Có các khe cắm mở rộng PCIe x8 và x16 ở trên này nhưng việc sử dụng chúng đòi hỏi phải có các tùy chọn mà chúng tôi không có để thử nghiệm.

Có một tính năng nhỏ mà chúng tôi muốn chỉ ra ở phía bên trái ở trên. Bên dưới nút reset bên trong, có một cổng OTG Micro USB mà người ta có thể bỏ lỡ nó nếu chỉ tình cờ nhìn vào bức ảnh. Ở phía bên phải, có đầu dữ liệu SATA và nguồn.

Người ta có thể thêm một ổ đĩa 2,5 inch chẳng hạn như SSD bằng cách thêm cáp vào các đầu nối này. Bản thân hệ thống chỉ có 32GB tiêu chuẩn lưu trữ eMMC, vì vậy đây có thể là một vấn đề lớn.

Ở cạnh trên của bo mạch chủ theo hướng của chúng ta, chúng ta có thể thấy được một khe cắm thẻ SD ở phía bên trái. Có một khe cắm MiniPCIe màu trắng. Sau đó, chúng ta thấy có một khe cắm M.2 2280 (80mm) cho bộ lưu trữ NVMe.

Ở góc độ vận hành, điều quan trọng là chúng ta không có bất kỳ chiếc quạt nào ở đây. Đối với các ứng dụng công nghiệp, làm mát thụ động có nghĩa là khả năng hỏng hóc thấp hơn vì quạt, đặc biệt là khi dính phải các mảnh vụn, có thể là một điểm hỏng hóc thường xuyên.

Chúng tôi cũng muốn nhanh chóng lưu ý rằng sản phẩm này đã được vận chuyển trên khắp thế giới một vài lần. Chúng ta có thể thấy sự mài mòn trên một số tấm kim loại như ở các góc của bức ảnh bên dưới. Mặc dù với tình trạng bên ngoài như vậy, hệ thống vẫn hoạt động hoàn toàn tốt.

Trong bài đánh giá này, chúng tôi muốn cố gắng tạo lại một trường hợp sử dụng mà trong đó sử dụng một hệ thống như thế này. Tiếp theo, chúng tôi sẽ biến STH studio thành một nhà máy dệt.

Khi chúng tôi quyết định thực hiện bài đánh giá này, một trong những câu hỏi lớn mà tôi đặt ra là "vậy thì sao?" Chúng tôi thường có một phần về hiệu suất, nhưng với hiệu suất CPU giống với Xeon E3-1240 có vẻ kém thú vị hơn. Hệ thống làm mát thụ động 30W sẽ không bao giờ đạt đến mức hiệu suất thô của CPU 280W và 500W + GPU mà chúng ta có ngày nay. Vì vậy, kết quả là chúng tôi đã biến STH studio thành xưởng kiểm tra hàng dệt may.

Đây là thiết lập tổng thể. Chúng tôi muốn gửi cảm ơn tới những người của Advantech và Smasoft đã giúp đỡ chúng tôi trong việc này. Tôi cảm thấy rằng tôi muốn thể hiện một giải pháp trông như thế nào và họ đã giúp biến nó thành hiện thực.

Bạn sẽ nhanh chóng nhận thấy chúng tôi không có một, mà là hai sản phẩm Advantech. Cùng với thiết bị MIC-730AI NVIDIA Jetson này, chúng tôi còn có sản phẩm máy tính công nghiệp MIC-7700 sử dụng CPU Intel chạy HĐH Windows và phần mềm Smasoft. Chúng tôi lưu ý rằng MIC-7700 khá ồn ào và được sử dụng quạt, vì vậy đây là các loại hệ thống nhúng khác nhau. Ý tưởng cơ bản là Advantech MIC-730AI tới x86 box không cần phải có tỷ lệ 1:1. Thay vì thêm GPU đắt tiền và ngốn điện vào mọi hệ thống, người ta có thể sử dụng và mở rộng quy mô với các giải pháp dựa trên Jetson.

Tiếp theo, chúng tôi có máy ảnh. Máy ảnh này là một máy ảnh công nghiệp PoE được giữ ở một vị trí cố định trên giá đỡ. Có một số cách để có được nguồn điện và Advantech cũng có các giải pháp PoE, nhưng ở đây chúng tôi có một bộ PoE injector đơn giản.

Phần mềm Smasoft cũng được sử dụng cho máy ảnh. Thông thường nó được gắn trên dây chuyền sản xuất, nhưng trong trường hợp của chúng tôi, camera IP đang được gắn trên một giàn thử nghiệm để chúng tôi có thể chụp ảnh nó.

Bên dưới máy ảnh, chúng ta có một đèn vòng để lấy đủ ánh sáng cho máy ảnh.

Bên dưới phần này, chúng tôi có không gian nơi chúng tôi đang chạy “dây chuyền dệt” của mình và cũng có trang OCR mẫu đang được chiếu sáng bằng ánh sáng và được chụp qua máy ảnh. Sau đó, giải pháp Smasoft sử dụng thiết lập để xác định các ký tự.

Vải có thể được xếp bên dưới máy ảnh. Người ta có thể tưởng tượng nó đang được di chuyển qua máy ảnh trên một đường dài, nhưng đối với bản demo, chúng tôi chỉ có một phần nhỏ ở đây.

Giải pháp của Smasoft có thể xác định lỗi trong kết cấu hoặc một tập hợp văn bản cụ thể từ bản demo OCR, sau đó thực hiện các hành động trên dòng để gắn thẻ những gì đang xảy ra.

Ví dụ về cách gắn thẻ này được sử dụng là để kích hoạt các công cụ tự động hóa. Có lẽ để chọn phần bị lỗi của một dòng. Một vật dụng mà chúng tôi không có là một cánh tay rô bốt. May mắn thay, Smasoft đã có một trình giả lập cho cánh tay robot có thể thực hiện các lựa chọn dựa trên OCR / nhận dạng hình ảnh.

Nhìn chung, đây là một giải pháp khá hay. Hy vọng rằng điều này sẽ giúp bạn hình dung một giải pháp end-to-end trông như thế nào so với chỉ nhìn vào một chiếc hộp. Chúng tôi biết rất nhiều độc giả của chúng tôi muốn thấy những hệ thống này hoạt động. Thật không may, chúng tôi không có một nhà máy đầy đủ, nhưng chúng tôi có thể thiết lập một nhà máy dệt nhỏ. Như người ta có thể tưởng tượng, Smasoft có các giải pháp cho các ngành khác nhau dựa trên nền tảng máy tính của Advantech như MIC-730AI mà chúng ta thấy ở đây.

Một lưu ý nhanh ở đây, trên nguồn điện xoay chiều 120V, chúng tôi đã thấy mức tiêu thụ điện năng lên đến 30W trong bản trình diễn của chúng tôi. Dòng Jetson của NVIDIA có TDP có thể định cấu hình để người ta có thể giảm mức tiêu thụ điện năng với một số yêu cầu. Mặc dù 30W là mức tối đa, chúng tôi đã thấy mức tiêu thụ không tải vào khoảng 15W.

Về mặt tiếng ồn, thiết bị này hoạt động một cách rất yên tĩnh. Chúng ta đã có một khung máy được làm mát thụ động với bộ chuyển đổi AC bên ngoài FSP được làm mát thụ động. Trong môi trường xung quanh với độ ồn 24dba, chúng tôi không thấy một 1dba tăng lên trên máy đo âm thanh Extech đáng tin cậy của chúng tôi, vì vậy chúng tôi sẽ gọi đây là sự hoạt động im lặng.

Nhìn chung, đây là một giải pháp thú vị để mọi người xem xét. Chúng tôi muốn mang lại cảm giác tốt hơn không chỉ về giải pháp vật lý mà còn về cách nó được sử dụng trong một thiết lập rộng lớn hơn. Thật vậy, nền tảng NVIDIA Jetson Xavier rất phổ biến và vượt ra ngoài quy mô của một bộ công cụ dành cho nhà phát triển để trở thành một thứ có thể được triển khai thực tế.

Chúng ta đang ở thời điểm mà có nhiều sự tập trung cao độ vào các giải pháp biên và đặc biệt lấy các mô hình AI đã được đào tạo trong các trung tâm dữ liệu và đưa chúng vào sử dụng. AI đã đi từ một công nghệ mang đến sự tò mò để trở thành một thứ có thể được triển khai trong thực tế. Đó thực sự là thị trường đầy tiềm năng cho MIC-730AI.

Nhìn chung, đây là một giải pháp rất hay. Có một nền tảng máy tính nhúng không quạt được thiết kế cho nhiều loại môi trường có nghĩa là chúng ta có một nền tảng có thể mang tới khả năng tính toán và tăng tốc GPU vượt trội.