Advantech WISE-PaaS/AFS: giải pháp hoàn chỉnh cho việc đào tạo, suy luận và cập nhật đa mô hình AI
11/2/2563
Tăng tốc độ phát triển các giải pháp AIoT với Nền tảng AI hợp nhất Edge-to-Cloud
WISE-PaaS / AFS (AI Framework Service), một điểm nổi bật của nền tảng đám mây IoT công nghiệp WISE-PaaS của Advantech, giúp các nhà phát triển phần mềm và nhà khoa học dữ liệu tăng tốc phát triển các giải pháp AIoT đạt được quy mô sản phẩm tiêu chuẩn trong khi đáp ứng quản lý tích hợp tài nguyên CPU / GPU / vCPU yêu cầu.
WISE-PaaS / AFS Giúp tăng tốc các ứng dụng AI: Chuyển từ 0 lên 1 trong POC một cách trơn tru, Mở rộng nhanh chóng từ 1 đến 100
Ông Jamie Su, giám đốc sản phẩm của Advantech IoT.SENSE, nhấn mạnh rằng công ty hy vọng sẽ giúp người dùng tăng tốc quá trình AI POC với WISE-PaaS / AFS; diễn ra suôn sẻ từ 0 lên 1, nhanh chóng mở rộng từ 1 lên 100 và để các ứng dụng AI đi vào cuộc sống.
Nói chung, quá trình xây dựng giải pháp AIoT công nghiệp bao gồm đào tạo mô hình (đám mây) và suy luận (biên). Advantech đã tích lũy hơn 30 năm kinh nghiệm trong lĩnh vực Edge Intelligence để qua đó phát triển WISE-PaaS / AFS hỗ trợ ổn định cả hoạt động của động cơ suy luận và triển khai mô hình từ xa. Do số lượng lớn máy móc được sử dụng trong các kịch bản công nghiệp hiện đại, cần phải áp dụng suy luận tiên đoán "một máy, một mô hình". Sử dụng chức năng triển khai từ xa OTA của WISE-PaaS / AFS giúp giảm gánh nặng cho nhân viên triển khai và giúp dễ dàng thúc đẩy đào tạo lại và tối ưu hóa các mô hình hiện có.
Thuận tiện cho việc tích hợp SI / DFSI (Domain-focused Solution Integrator), WISE-PaaS / AFS có thể xây dựng công cụ suy luận như một API RESTful và nó hỗ trợ các nền tảng vận hành Windows, Linux và Android để nhanh chóng giao tiếp với các hệ thống không đồng nhất và tùy chỉnh kịch bản ứng dụng AIoT tốt nhất cho khách hàng. Công cụ suy luận AFS có thể được đóng gói dưới dạng Docker Image hoặc EdgeX Foundry, cả hai đều hỗ trợ triển khai từ xa.
Vì AFS chạy trên nền tảng IoT công nghiệp WISE-PaaS, nó thừa hưởng các tính năng từ WISE-PaaS và hỗ trợ các đặc tính của đám mây công cộng, riêng tư và lai. Đối với các đám mây công cộng, nó hỗ trợ Azure, AWS và Alibaba Cloud. Đối với các đám mây riêng, nó dựa trên phần mềm Advantech WISE-STACK và giải pháp đám mây riêng thông minh tích hợp phần cứng. Đối với các đám mây lai, các đám mây công cộng được kết hợp với máy chủ GPU của Advantech cho phép khả năng điện toán GPU chạy trên nền tảng riêng của nó, do đó giảm chi phí liên quan.
Ông Jamie Su nhấn mạnh rằng các dịch vụ WISE-PaaS / AFS chứa một số mô-đun chức năng quan trọng. Đầu tiên, mô-đun đào tạo đa mô hình dựa trên công nghệ Hadoop Yarn và Kubernetes để giúp người dùng nhận ra sự phân chia, lập lịch và quản lý tài nguyên máy tính linh hoạt. Thứ hai, AFS hỗ trợ nhiều cơ sở dữ liệu như PostgreSQL, InfluxDB, MongoDB và Ceph. Nó cũng có thể giao tiếp với các nguồn dữ liệu WISE-PaaS / APM, cho phép các nhà khoa học dữ liệu và kỹ sư AI nhanh chóng tích hợp các loại dữ liệu khác nhau để xây dựng và đào tạo mô hình.
Mô-đun Workspace tích hợp framework Jupyter Notebook trước, giúp người dùng dễ dàng phát triển các thuật toán trực tuyến. Thứ hai, nó cung cấp một môi trường phát triển ngoại tuyến. Ngay cả khi người dùng viết mã bằng ngôn ngữ không phải Python, mã vẫn có thể được đóng gói dưới dạng Docker Image và được tải lên AFS để thực thi trực tuyến. Các mô-đun khác như Danh mục, Nhiệm vụ, Bảng mô hình và Suy luận có thể giúp người dùng đăng ký thuật toán nguồn mở của bên thứ ba, thiết lập lập lịch tự động đào tạo lại mô hình và triển khai, xem hiệu suất đào tạo mô hình thông qua các công cụ trực quan và quản lý số lượng lớn mô hình và nhiều nguồn thông tin tương ứng.
Khung WISE-PaaS / AFS hỗ trợ cả suy luận đám mây và biên
Tiến sĩ Ali Chang, trợ lý giám đốc dự án và khoa học dữ liệu cho Advantech IoT.SENSE, cho biết, Advantech hy vọng sẽ nhận được sự hỗ trợ từ nhiều đối tác trong hệ sinh thái và DFSI thông qua việc ra mắt nền tảng WISE-PaaS / AFS. Advantech đã đặt ra để cung cấp ba giải pháp AI, hy vọng rằng các giải pháp AI này sẽ dẫn các đối tác phát triển nhiều ứng dụng AI hơn. Giải pháp đầu tiên là AOI (Kiểm tra quang tự động), sử dụng công nghệ học sâu để tự động xác định các loại lỗi và giảm chi phí kiểm tra thủ công.
Giải pháp thứ hai là PHM (Đánh giá trước và Quản lý sức khỏe), cung cấp dịch vụ đánh giá trước sức khỏe máy cho các thiết bị sản xuất cụ thể. Ví dụ, nó đo các tín hiệu sản xuất của máy móc. Để đạt được mục tiêu là lỗi xuống bằng không, khi hiệu suất giảm dần, các bước bảo trì thích hợp được thực hiện ngay lập tức. Giải pháp PQA (Phân tích chất lượng dự đoán) phân tích các tham số quy trình sản xuất và các chỉ số chất lượng chính để thiết lập các mô hình dự đoán chất lượng sản xuất và tối ưu hóa quy trình sản xuất. Hiện đang có một nhu cầu cao cho tính năng này trên một loạt các ngành công nghiệp như: dệt may, nhà máy bán dẫn, hóa dầu / xi măng, nhựa và máy móc.
Tiến sĩ Michael Chuang, trợ lý giám đốc dự án và là nhà khoa học dữ liệu tại Advantech IoT.SENSE đã nhắc lại rằng WISE-PaaS / AFS là một giải pháp toàn diện, từ biên đến đám mây, với năm tính năng chính. Các tính năng bao gồm hỗ trợ cho các thư viện nguồn mở khác nhau để đào tạo mô hình AI trong giai đoạn phát triển, giúp người dùng dễ dàng thực hiện phát triển trực tuyến. Bởi vì các mô hình cần phải được tối ưu hóa liên tục trong giai đoạn xác minh, nó cũng hỗ trợ các công cụ quản lý đa mô hình; đáp ứng các yêu cầu kép về lập kế hoạch đào tạo lại và quản lý mô hình. WISE-PaaS / AFS hỗ trợ suy luận đám mây trong giai đoạn trực tuyến (đặc biệt là đối với lĩnh vực ứng dụng thành phố thông minh rộng lớn). Nó tích hợp một số lượng lớn các thiết bị tính toán biên và thực hiện phân phối mô hình để đạt được khả năng suy luận biên trong giai đoạn triển khai.
WISE-PaaS / AFS có hồ sơ theo dõi được ghi chép đầy đủ về việc cung cấp giá trị cho các đối tác và khách hàng của mình. Trên thực tế, nhà máy PCB Linkou riêng của Advantech sử dụng giải pháp AI AOI để phát hiện lỗi. Sau nửa năm hoạt động, tỷ lệ phát hiện là gần 100% và hiệu quả phát hiện dây chuyền sản xuất đã tăng hơn 33%. Advantech cũng đã phát triển một giải pháp phát hiện lỗi thành phần thụ động với một khách hàng đối tác và bán nó trên WISE-PaaS Marketplace. Giờ đây, người dùng cuối có thể tự động triển khai mô hình có liên quan đến hệ thống Edge AI MIC-730 của họ bằng cách đăng ký sử dụng giải pháp, nó sẽ bắt đầu thực hiện suy luận và phát hiện lỗi trong từng thành phần thụ động.
Các nhà phát triển trên nhiều lĩnh vực, như các nhà máy và thành phố thông minh, có thể sử dụng khung WISE-PaaS / AFS để triển khai các dự án AI, tải dữ liệu từ biên lên đám mây, xây dựng các công cụ suy luận trong đám mây và tự động triển khai lên nền tảng điện toán biên. Mỗi liên kết trong quá trình có hỗ trợ sản phẩm hoàn chỉnh. Các nhà phát triển không còn cần phải mở toàn bộ liên kết từ biên sang đám mây và liên kết từ đám mây đến các thiết bị biên. WISE-PaaS / AFS cung cấp một lối tắt tối ưu cho các doanh nghiệp chuyển sang AIoT và chuyển đổi kỹ thuật số toàn diện.
