Vitis AI：從邊緣到雲的最佳人工智能推斷


Vitis™ AI 是 Xilinx 的開發平台，適用於在 Xilinx 硬件平台（包括邊緣設備和 Alveo 卡）上進行人工智能推斷。它由優化的 IP、工具、庫、模型和示例設計組成。 Vitis AI 以高效易用為設計理念，可在 Xilinx FPGA 和 ACAP 上充分發揮人工智能加速的潛力。


您的開發如何與人工智能協作：

• 支持主流框架和最新的模型，能夠執行不同的深度學習任務。
• 提供一系列全面的預先優化模型，這些模型現已就緒，可隨時部署在 Xilinx 器件上。
  您可以找到最相似的模型，開始針對您的應用重新訓練！
• 提供一個功能強大的量化器，支持模型量化、校準和微調。對於高級用戶，我們還提供一個可選的人工智能
  優化器，其可將模型修剪達 90%。
• AI 分析器提供逐層分析，有助於解決瓶頸問題
• AI 庫提供高層次 C++ 和 Python API，可實現從邊緣到雲端的最大可移植性。
• 可以從吞吐量、時延和電源角度定制可擴展的高效 IP 內核，滿足您對許多不同應用的需求。。





使用 Vitis AI 探索一切可能性：


AI 優化器

有了世界領先的模型壓縮技術，我們可以在對精度影響極小的情況下，將模型的複雜性降低 5 至 50 倍。深度壓縮可將您的 AI 推斷性能提升到一個新的層次。



AI 量化器

通過將 32 位浮點權值和激活量轉換為 INT8 這樣的定點，AI 量化器可在不影響預測精度的情況下，降低計算
複雜度。定點網絡模型需要的內存帶寬更少，因此比浮點網絡模型速度更快，電源效率更高。



AI 編譯器

將 AI 模型映射至高效指令集及數據流。還可執行高級優化任務，如層融合和指令排程等，並可盡量重複使用
片上內存。



AI 配置器

性能分析器有助於程序員深入分析 AI 推斷實現方案的效率和利用率。





AI 庫

該運行時提供一系列輕量級 C++ 及 Python API，其可實現便捷的應用開發。此外，它還提供高效的任務調度、內存管理和中斷處理。






模型簡介

Vitis AI 模型專區包括優化的深度學習模型，可加速在 Xilinx 平台上部署深度學習推斷的進程。這些模型涵蓋不同的應用，包括但不限於 ADAS/AD、視頻監控、機器人和數據中心等。您可以從這些預先訓練的模型啟動設計，享受深度學習加速的優勢。




Xilinx AI 平台支持大量 AI/ML 模型，如下所示。我們始終致力於將最新的模型引入我們的平台：

通用應用

• 圖像分類：Googlenetv1、Resnet50、Resnet101、Resnet152 Inception v1、BN-inception、VGG16、
  SqueezeNet、Mobilenet、MobilenetV2
• 目標檢查：MobilnetV2-SSD, SSD, YOLO v2, YOLO v3, Tiny YOLO v2, Tiny YOLO v3
• 市場細分：ENet, ESPNet


人臉

• 面部檢查：SSD、Densebox
• 路標定位：坐標回歸
• 面部識別：ResNet + Triplet / A-softmax 丟失
• 面部屬性識別：分類與回歸


行人

• 行人檢查：SSD
• 姿態估計：坐標回歸


視頻分析

• 目標檢查：SSD、RefineDet
• 行人屬性識別：GoogleNet
• 汽車屬性識別：GoogleNet，修改後的 Densebox + GoogleNet
• 車牌檢查：修改的 DenseBox
• 車牌識別：GoogleNet + 多任務學習


ADAS/AD（自動駕駛）

• 目標檢查：SSD、YOLOv2、YOLOv3
• 車道檢測：VPGNet
• 語義分割：FPN




閱讀原文