Vitis AI：从边缘到云的最佳人工智能推断


Vitis™ AI 是 Xilinx 的开发平台，适用于在 Xilinx 硬件平台（包括边缘设备和 Alveo 卡）上进行人工智能推断。它由优化的 IP、工具、库、模型和示例设计组成。Vitis AI 以高效易用为设计理念，可在 Xilinx FPGA 和 ACAP 上充分发挥人工智能加速的潜力。


您的开发如何与人工智能协作：

• 支持主流框架和最新的模型，能够执行不同的深度学习任务。
• 提供一系列全面的预先优化模型，这些模型现已就绪，可随时部署在 Xilinx 器件上。
  您可以找到最相似的模型，开始针对您的应用重新训练！
• 提供一个功能强大的量化器，支持模型量化、校准和微调。对于高级用户，我们还提供一个可选的人工智能
  优化器，其可将模型修剪达 90%。
• AI 分析器提供逐层分析，有助于解决瓶颈问题
• AI 库提供高层次 C++ 和 Python API，可实现从边缘到云端的最大可移植性。
• 可以从吞吐量、时延和电源角度定制可扩展的高效 IP 内核，满足您对许多不同应用的需求。





使用 Vitis AI 探索一切可能性：


AI 优化器

有了世界领先的模型压缩技术，我们可以在对精度影响极小的情况下，将模型的复杂性降低 5 至 50 倍。深度压缩可将您的 AI 推断性能提升到一个新的层次。



AI 量化器

通过将 32 位浮点权值和激活量转换为 INT8 这样的定点，AI 量化器可在不影响预测精度的情况下，降低计算
复杂度。定点网络模型需要的内存带宽更少，因此比浮点网络模型速度更快，电源效率更高。



AI 编译器

将 AI 模型映射至高效指令集及数据流。还可执行高级优化任务，如层融合和指令排程等，并可尽量重复使用
片上内存。



AI 配置器

性能分析器有助于程序员深入分析 AI 推断实现方案的效率和利用率。





AI 库

该运行时提供一系列轻量级 C++ 及 Python API，其可实现便捷的应用开发。此外，它还提供高效的任务调度、内存管理和中断处理。






模型简介

Vitis AI 模型专区包括优化的深度学习模型，可加速在 Xilinx 平台上部署深度学习推断的进程。这些模型涵盖不同的应用，包括但不限于 ADAS/AD、视频监控、机器人和数据中心等。您可以从这些预先训练的模型启动设计，享受深度学习加速的优势。




Xilinx AI 平台支持大量 AI/ML 模型，如下所示。我们始终致力于将最新的模型引入我们的平台：

通用应用

• 图像分类：Googlenetv1、Resnet50、Resnet101、Resnet152 Inception v1、BN-inception、VGG16、
  SqueezeNet、Mobilenet、MobilenetV2
• 目标检查：MobilnetV2-SSD, SSD, YOLO v2, YOLO v3, Tiny YOLO v2, Tiny YOLO v3
• 市场细分：ENet, ESPNet


人脸

• 面部检查：SSD、Densebox
• 路标定位：坐标回归
• 面部识别：ResNet + Triplet / A-softmax 丢失
• 面部属性识别：分类与回归


行人

• 行人检查：SSD
• 姿态估计：坐标回归


视频分析

• 目标检查：SSD、RefineDet
• 行人属性识别：GoogleNet
• 汽车属性识别：GoogleNet，修改后的 Densebox + GoogleNet
• 车牌检查：修改的 DenseBox
• 车牌识别：GoogleNet + 多任务学习


ADAS/AD（自动驾驶）

• 目标检查：SSD、YOLOv2、YOLOv3
• 车道检测：VPGNet
• 语义分割：FPN




阅读原文