使用 NGC 集合构建和部署面罩检测应用程序

使用 NGC 构筑和布署口罩样品技术的发展软件

AI 管理工作流程很复杂。构筑一个 AI 技术的发展软件不是一项最简单的任务，因为它必须各种较强领域经验的各种商业利益相关者来大规模联合开发和布署技术的发展软件。资料研究小组和联合开发工具必须方便使用地次访问软件构筑块，例如模型和托盘，它们不仅确保安全、极高性能，而且较强构筑其 AI 模型所需要的基础的系统。

在构筑完技术的发展软件再次，DevOps 和 IT 管理人员必须一些机器，这些机器可以帮助他们在各种器材之间无缝地布署和管理这些技术的发展软件，包括本地器材、云器材或边缘器材。

NVIDIA 构筑了 NGC 清单，通过获取易于次访问的 GPU 优化软件，例如托盘、预先培训的模型、技术的发展框架和构筑 AI 技术的发展软件所需要的 Helm 数学公式，来精简和更快 AI 管理工作流程。

在这篇文章以后，我们将展览品如何使用 NGC 清单和它的核心中层物理性质，例如集合、NGC 私有默认和 AI 构筑块来构筑和布署一个口罩样品技术的发展软件，作为一个示例，该示例展览品了 development-to-deployment 的水。

精简技术的发展软件旅程

随着 NGC 的推出，NVIDIA 精简了整个技术的发展软件感受，并将所需要的相关托盘、模型、文档和 Helm 数学公式集以后在一个大都，而无需要在清单以后定位和协调各种独立国家的构筑块。

您可以找针对特定任务的管理工作负载的 NGC 集合，如自动语音辨别或图像归入，以及行业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您希望构筑一个用于对象样品的技术的发展软件，那么在清单以后搜索该集合，您将在一个大都找所有相关资产。

使用 NVIDIA TF32 Tensor Cores 更快 AI 培训

NVIDIA Ampere GPU 的系统引入了第三代 Tensor Cores，以及取而代之TensorFloat32 (TF32) 方式在更快 FP32 微分和行列式乘法。TF32 方式在是AmpereGPU 的系统上 32 位变量的 AI 培训的默认选项。它为单准确性DL管理工作负载造成了了 Tensor Core 更快，而不必须对模型程序员开展任何更改。

使用本机16 位播放器 (FP16/BF16) 的混合准确性培训即使如此是最快的选取，只必须模型程序员以后的几行文档。表1显示了与 FP32 CUDA 核相比，A100Tensor Cores 的算术吞吐量。有一点指出的是，对于单准确性培训，A100 获取的算术吞吐量比上九代培训GPU V100 极高 10 倍。

结构上接合

TF32 是 GPU 的系统 Ampere 九代 Tensor Core 以后可选的一种取而代之算出方式在。点积算出，它包含了行列式乘法和微分的构筑块，将 FP32 的输入轮化到 TF32，在不损失准确性的情况下算出的产品，然后将这些的产品受益到 FP32 负载以后。

TF32 只是作为 Tensor Core 加载方式在公开，而不是一个一般来说。内核以后的所有存储器材和其他加载完全保留在 FP32 以后，只有微分和行列式乘法在乘法以后将它们的输入转换为 TF32。相反，16位一般来说获取存储器材、各种数标量等等。