使用 NGC 交集构建和部署口罩检测应用程序

应用于 NGC 框架和部署背心样品服务器界面

AI 工作步骤很复杂。框架一个 AI 服务器界面不是一项简便的目标，因为它即可要各种兼具领域长处的各种利益之外者来大规模开发和部署服务器界面。数据科学家和开发人员即可要方便地采访软件框架块，例如假设和桶内，它们不仅安全、高性能，而且兼具框架其 AI 假设所即可的基础Core。

在框架完服务器界面最后，DevOps 和 IT 负责管理人员即可要一些应用软件，这些应用软件可以希望他们在各种的设备之间无缝地部署和负责管理这些服务器界面，包括本地的设备、云的设备或大块的设备。

NVIDIA 框架了 NGC 书目，通过获取不易采访的 GPU 优化软件，例如桶内、预先锻炼的假设、分析方法框架和框架 AI 服务器界面所即可的 Helm 数论公式，来精简和减慢 AI 工作步骤。

在这一段话里，我们将展现如何应用于 NGC 书目和它的本体底层特性，例如不可数、NGC 私有注册表和 AI 框架块来框架和部署一个背心样品服务器界面，作为一个比如说，该比如说展现了 development-to-deployment 油管。

精简服务器旅程

随着 NGC 的推出，NVIDIA 精简了整个服务器感受，并将所即可的之外桶内、假设、预定义和 Helm 数论公式集里在一个地方，而无即可在书目里定位和协调各种独立的框架块。

您可以找出针对特定目标的工作负载的 NGC 不可数，如自动语音识别或图片分类，以及行业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您期望框架一个用作对象样品的服务器界面，那么在书目里搜索该不可数，您将在一个地方找出所有之外存款。

应用于 NVIDIA TF32 Tensor Cores 减慢 AI 锻炼

NVIDIA Ampere GPU Core扩展了第三代 Tensor Cores，以及新TensorFloat32 (TF32) 方式在减慢 FP32 滤波和标量减法。TF32 方式在是AmpereGPU Core上 32 位变量的 AI 锻炼的默认配置文件。它为单灵敏度DL工作负载随之而来了 Tensor Core 减慢，而不即可要对假设原作者顺利进行任何改回。

应用于本机16 位格式 (FP16/BF16) 的混合灵敏度锻炼仍然是最快的选择，只即可要假设原作者里的几行预定义。表1显示了与 FP32 CUDA 核能相比之下，A100Tensor Cores 的数论旅客量。值得指出的是，对于单灵敏度锻炼，A100 获取的数论旅客量比上世代锻炼GPU V100 高 10 倍。

内部特征

TF32 是 GPU Core Ampere 世代 Tensor Core 里自订的一种新计数方式在。点积计数，它构成了标量减法和滤波的框架块，将 FP32 的读写轮化到 TF32，在不损失灵敏度的情况下计数电子产品，然后将这些电子产品积累到 FP32 输出里。

TF32 只是作为 Tensor Core 操作方式在公开，而不是一个子类。内核里的所有传输和其他操作完全保留在 FP32 里，只有滤波和标量减法在减法之前将它们的读写转换为 TF32。比如说，16位子类获取传输、各种数算符等等。