跳至內容
測試伺服器
開發伺服器

pylon AI 簡介#

pylon AI 包含一套工具，可讓您利用深度學習（DL）技術執行影像分析任務。

透過將先進的深度學習模型整合至使用pylon vTools 所開發的視覺應用中，pylon AI 能夠解決複雜的影像分析挑戰，其能力已超越傳統影像處理方法所能達到的範圍。常見的任務包括物件偵測與分類，以及實例分割與語義分割。

運作原理#

本主題將向您展示 pylon AI 如何簡化深度學習的應用流程，以及其組件與功能如何融入 pylon 生態系統。

pylon AI vTools 旨在與pylon 網站（Workbench ）上提供的標準vTools協同運作。此整合方案能以直覺的方式進行影像分析，同時發揮傳統影像處理技術與尖端 AI 能力的優勢。

使用 pylon AI 的優勢#

  • 開發工作量極低：您可以自由選擇 AI 模型，並透過pylon AI 平台針對各種處理硬體進行優化。這讓您能夠確定哪個版本的模型在您的硬體上，針對特定應用能發揮最佳效能。無需任何程式設計。在針對您的機器視覺任務優化模型後，即可匯出程式碼並將其加入您的應用程式程式碼中。
  • 輕鬆部署：簡化深度學習模型與您使用 pylonWorkbench 所建置的應用程式之間的整合，同時節省時間並降低複雜度。
  • 硬體優化：透過針對特定硬體供應商量身打造模型，確保卓越的效能與靈活性。
  • 自由選擇模型來源：支援業界標準的 ONNX 格式。這意味著您可以自由選擇用於訓練或建構模型的框架，例如 PyTorch、TensorFlow 或 NVIDIA TAO。由於支援 ONNX，pylon AI 與上述所有框架皆相容。
  • 統一的生態系統：pylon AI 已無縫整合至 pylon Software Suite 這意味著您可以在同一個軟體環境中執行影像擷取、處理與分析。
  • 夥伴友善策略：善用合作關係，提供全面的解決方案。
  • 增強型影像智慧：優化相機參數，以最大化基於深度學習（DL）的應用效能，所有功能皆整合於Workbench 支柱中。
  • 卓越的性能與可靠性：提供精確且無誤的影像分析結果，以支援穩健的決策。

如需更多資訊，請造訪Basler 網站。

支援的模型架構#

選擇合適的深度學習（DL）模型，是完成影像分析任務的第一步。pylon AI 原生支援多種模型架構，特別是適用於分類、物件偵測和分割任務的模型，這些模型可與對應的 AI vTool 搭配使用。

以下列出目前可直接與 pylon AI 原生相容的機型清單。若您需要其他機型，歡迎隨時聯絡 Basler 並提出需求。

其他架構將於近期新增，或可應要求提供。

選定模型後，您必須對其進行訓練，使其能夠辨識並分析特定的圖像模式。目前，pylon AI 本身並不提供訓練功能。

以下是一份合適的訓練工具清單：

  • Microsoft Azure 機器學習
  • NVIDIA TAO
  • Amazon Sagemaker

若要與 Pylon AI 搭配使用，所有模型都必須以 ONNX 格式提供，以確保無縫整合與相容性。由於 ONNX 是一種產業標準格式，這讓您在選擇訓練工具時擁有極大的自由度。

Pylon AI 元件概覽#

下圖展示了在pylon Software Suite 環境中的電塔 AI 元件。

pylon AI 元件

pylon AI Platform#

該 pylon AI Platform 是一款用作管理您的深度學習模型生命週期中央樞紐的網路應用程式。它為每個 AI vTool 提供不同的機器視覺專案，同時也允許您建立自己的專案。

透過 AI Platform，您可以開發並優化自己的模型，包括進行效能基準測試與打包。當您對模型的效能感到滿意後，即可將其以套件形式發布，並透過pylon AI Agent 將該套件部署至 AI vTools。該套件包含所有必要的資訊（例如硬體配置、模型等），以確保最佳效能。

pylon AI Agent#

發佈您的套件後，您可以透過 pylon AI Agent存取。pylon AI Agent 是 AI Platform 與 AI vTools 之間的連結。AI Agent 可協助您管理模型，並將模型部署至 Triton Inference Server，該伺服器負責處理推論流程。

Triton 推論伺服器#

Triton Inference Server 負責處理推論程序。在深度學習的領域中，推論是指將已訓練的模型套用到全新的未知資料，並對其內容進行預測。

Triton 推論伺服器是一款開源軟體，旨在標準化跨各種處理硬體的人工智慧模型部署與執行。它透過為不同框架（例如 TensorFlow、PyTorch、ONNX 等）及硬體（GPU、CPU 等）提供一致的推論介面，簡化了人工智慧模型的部署流程。它能實現跨多張 GPU 或 CPU 的高效推論。 此外，它還具備動態批次處理功能，即能動態優化批次大小，從而提升吞吐量與資源利用率。

Triton 推論伺服器需透過 pylon AI 的 pylon 補充套件另行安裝。您可從Basler 網站下載該套件。

pylon AI vTools#

pylon AI vTools 系列產品可作為 Basler 標準vTool產品組合的補充，並專為在 Workbench 的 pylon Viewer。該系列產品涵蓋多種應用場景。如需最新清單，請參閱 pylon AI vTools 該章節。

有關使用 vTools 的一般資訊，請參閱《配方操作》、《配方管理》以及 Recipe Code Generator。