-
软件
-
服务
-
支持
-
见解
-
对比
-
更多
-
UL Procyon AI 计算机视觉基准测试
使用各种推理引擎对 AI 性能进行基准测试
随着将 AI 解决方案越来越轻松地集成和部署到日常应用，机器学习应用正在得到发展。凭借对更快的机器学习性能的需求，主要硬件供应商一直在优化自己的推理引擎，以便在硬件上提供可能最佳的性能。
UL Procyon AI 计算机视觉基准测试会就 AI 推理引擎在 Windows PC 或 Apple Mac 上的执行情况提供深刻见解，从而帮助您决定支持哪些引擎以实现最佳性能。基准测试采用不同供应商提供的多项 AI 推理引擎，并使用基准测试分数来反映设备上推理操作的性能。
在基准测试中，将使用一系列最受欢迎、最先进的神经网络执行常见的机器视觉任务。将 AI 加速器与 CPU 或 GPU 上运行的相同操作进行比较，以测量 AI 加速器的性能。
立即购买特点
- 基于常见的机器视觉任务，使用最先进的神经网络进行测试
- 使用 CPU、GPU 或专用 AI 加速器来测量推理性能。
- 使用 NVIDIA® TensorRT™、Intel® OpenVINO™、Qualcomm® SNPE、Microsoft® Windows ML 和 Apple® Core ML™ 进行基准测试。
- 核实推理引擎的实施与兼容性。
- 优化硬件加速器的驱动程序
- 比较浮点和整数优化的模型性能。
- 通过 UL Procyon 应用或命令行简单地进行设置和使用。
推理引擎性能
运用 UL Procyon AI 计算机视觉基准测试，可以通过基于常见机器视觉任务的测试来测量专用 AI 处理硬件的性能，并核实推理引擎的实施质量。
为专业人士所打造
对于需要使用独立的标准化工具对推理引擎实施及专用硬件的常规 AI 性能进行评估的工程团队，我们开发了 UL Procyon AI 计算机视觉基准测试。
快速并且容易使用
基准测试易于安装和执行，无需复杂的配置。使用 UL Procyon 应用或通过命令行运行基准测试。查看基准测试分数与图表，或导出详细的结果文件以供进一步分析。
具有行业专业知识
UL Procyon 基准测试专为工业、企业和新闻行业使用而设计，具有专为专业用户而开发的测试与功能。UL Procyon AI 计算机视觉基准测试是通过 UL 基准测试开发计划 (BDP) 与行业合作伙伴共同设计和开发的。BDP 是 UL Solutions 制订的计划，旨在通过与计划成员的密切合作，创建相关的、公正的基准测试。
神经网络模型
MobileNet V3
MobileNet V3 是专门为移动设备而创建的紧凑型视觉识别模型。基准测试使用 MobileNet V3 来识别图像主体，将图像作为输入并输出图像内容的概率值列表。该基准测试使用 MobileNet V3 的大型简约版本。
Inception V4
Inception V4 是用于图像分类任务的先进模型。专为准确性而设计，它是比 MobileNet 更广泛，更深入的模型。基准测试使用 Inception V4 来识别图像主体，输出图像中所识别内容的概率值列表。
YOLO V3
YOLO 表示“您只需看一次 (You Only Look Once)”，是旨在对图像中的对象位置进行识别的对象检测模型。基准测试会使用 YOLO V3 在对象周围生成边界框，并就每项检测的置信度而产生概率值。
DeepLab V3
DeepLab 是一种图像分割模型，旨在对属于同一对象类的图像像素进行聚类。语义图像分割用一类对象标记图像的每个区域。该基准测试使用 MobileNet V2 进行特征提取，可实现快速推理，且质量与大型模型相比几乎没有差异。
Real-ESRGAN
Real-ESRGAN 是根据合成数据而进行训练的超分辨率模型，可用于提高图像的分辨率，并从低分辨率的对应图像重建更高分辨率的图像。基准测试中使用的模型是 Real-ERSGAN 的一般图像变体，并将 250x250 的图像放大为 1000x1000 的图像。
ResNet 50
ResNet 50 是图像分类模型，可以提供使用剩余块添加更多卷积层的新方式。它的发布使以前不可能做到的深度神经网络训练成为可能。基准测试使用 ResNet 50 来识别图像主体，输出图像中所识别内容的概率值列表。
整数和浮点模型
基准测试包括每个模型的浮点数和整数优化版本。每个模型依次在设备中所有兼容的硬件上运行。为每次运行选择设备和推理精度，以比较整数和浮点模型之间的性能。
结果与见解
基准测试分数
使用 CPU、GPU 或专用 AI 加速器将 AI 推理性能与整数及浮点模型进行比较。
详细分数
使用所选的推理引擎和处理单元时，查看每项神经网络测试的推理时间。
硬件监控
获取基准测试运行期间有关 CPU 和 GPU 温度、时钟速度及使用情况变化的详细指标。
对 Windows PC 的最低系统要求
| 操作系统 | Windows 10（64 位）或 Windows 11 |
|---|---|
| 处理器 | 2 GHz 双核 CPU |
| 内存 | 4 GB |
| 存储空间 | 4 GB |
对 Apple Mac 的最低系统要求
| 操作系统 | macOS Monterey 或更高版本 |
|---|---|
| 处理器 | Apple Silicon |
| 内存 | 4 GB |
| 存储空间 | 1.5 GB |
支持
Latest 1.5.307 | 2024 年 6 月 6 日
AI 质量指标
在比较推理引擎时，除了要考虑原始性能，还务必考虑准确性。
我们亲自运行了测试来测评 Procyon AI 推理基准测试支持的推理引擎的准确性。
语言
- 英语
- 德语
- 日语
- 葡萄牙语(巴西)
- 简中
- 西语