英偉達(dá)T4介紹

NVIDIA TESLA T4深度學(xué)習(xí)GPU加速HPC超算顯卡。擁有極高的深度學(xué)習(xí)推理吞吐量Tesla P40專為提供極高的深度學(xué)習(xí)推理吞吐量而打造。T4 可以解碼多達(dá) 38 個全高清視頻流，從而可以輕松地將可擴(kuò)展的深度學(xué)習(xí)集成到視頻管線中，以提供創(chuàng)新的智能視頻服務(wù)。

我們正面向未來砥礪前行。在未來，人工智能將會觸及并改善與客戶的每一次互動、每一種產(chǎn)品以及每一項服務(wù)。認(rèn)識到未來需要一個能夠加速現(xiàn)代人工智能各種應(yīng)用的計算平臺，使企業(yè)能夠創(chuàng)造新的客戶體驗，重新構(gòu)想他們?nèi)绾螡M足和超越客戶需求，并經(jīng)濟(jì)高效地擴(kuò)展他們基于人工智能的產(chǎn)品和服務(wù)。 NVIDIA Tesla T4 GPU 是世界上極其先進(jìn)的推理加速器。搭載 NVIDIA Turing? Tensor Core 的 Tesla T4 提供革命性的多精度推理性能，以加速現(xiàn)代人工智能的各種應(yīng)用。Tesla T4 封裝在節(jié)能的小型 70 瓦 PCIe 中，可針對橫向擴(kuò)展服務(wù)器進(jìn)行優(yōu)化，并且旨在實時提供極其先進(jìn)的推理。

配備 NVIDIA Tesla T4 的服務(wù)器適用于虛擬 GPU 軟件 ，通過 NVIDIA GRID vPC 和 NVIDIA Quadro vDWS 這兩款 vGPU 虛擬化軟件，可加速 VDI 用戶體驗，可提供 高于CPU VDI 環(huán)境 33% 的出色性能。

T4加速卡產(chǎn)品特點

1、小巧的 70 瓦外形設(shè)計

讓 T4 針對可擴(kuò)展服務(wù)器進(jìn)行了優(yōu)化，能效相比 CPU 提高了50 倍之多，大大降低了運(yùn)營成本。過去兩年， NVIDIA 推理平臺的性能提高了 10 多倍，仍然是極具能效的分布式 AI 訓(xùn)練和推理解決方案。

2、NVIDIA T4 數(shù)據(jù)中心 GPU

是完美適用于分布式計算環(huán)境的通用加速器。革命性的多精度性能可加速深度學(xué)習(xí)以及機(jī)器學(xué)習(xí)訓(xùn)練和推理、視頻轉(zhuǎn)碼和虛擬桌面。 T4 支持所有 AI 框架和網(wǎng)絡(luò)類型，性能強(qiáng)勁，效率卓越，可最大限度提高大規(guī)模部署的效用。

3、Turing Tensor 核心技術(shù)

具有多精度計算特性，實現(xiàn)了從 FP32 、 FP16 到 INT8 以及 INT4 精度的突破性 Al 性能、與 CPU 相比，它的訓(xùn)練性能高達(dá) 9 . 3 倍，推理性能高達(dá) 36 倍。

T4顯卡詳細(xì)參數(shù)

Nvidia T4
GPU架構(gòu)	NVIDIA Turing
NVIDIA Turing Tensor 核心數(shù)量	320
NVIDIA CUDA ? 核心數(shù)量	2560
單精度	8.1 TFLOPS
混合精度 (FP16/FP32)	65 TFLOPS
INT8	130 TOPS
INT4	260 TOPS
GPU 顯存	16 GB GDDR6  300 GB/s
ECC	支持
互聯(lián)帶寬	32 GB / s
系統(tǒng)接口	x16 PCIe Gen3
外形尺寸	PCIe 半高卡
散熱解決方案	被動式
計算 API	CUDA    NVIDIA TensorRT ?  ONNX