Nvidia brengt Tensor Core A10 en A30 GPU’s uit voor datacenters

Nvidia heeft een tweetal nieuwe gpu’s voor het gebruik in datacenters op haar GTC-conferentie gepresenteerd: de A10 en de A30. De eerste heeft één pcie-slot nodig, de tweede neemt twee sloten in beslag. De twee zijn maken deel uit van de Ampere gpu-familie van het merk en zijn bedoeld om toegepast te worden in de AI Enterprise software van Nvidia dat alleen binnen VMware vSpere gebruikt kan worden.

Deze gpus zijn bedoeld om gebruik te worden door datacenters van bedrijven zelf. Volgens Nvidia kunnen de bedrijven die servers voor datacenters kopen binnenkort terecht bij vertrouwde leveranciers zoals Dell, Lenovo en SuperMicro. Volgens Nvidia wordt een server met een van deze gpu’s 2.000 tot 3.000 USD duurder. Het is nog niet duidelijk wanneer Nvidia deze gpu's in grote hoeveelheden kan leveren. 

De A10 heeft een GA102-890 gpu aan boord met 72 SM's en 9216 cuda-cores. De gpu werkt op 885 MHz en biedt een boost tot 1695 MHz. De kaart wordt via pcie 4.0 gekoppeld aan een systeem en heeft de beschikking over 24 GB gddr6.

De gpu van de A30 is nog niet bekend, maar wel is duidelijk dat hij op 930 MHz werkt, en een boost heeft tot 14490MHz. De kaart beschikt over 24GB hbm2 op 1215 MHz via een 3072 bit bus. Dat betekent dat hier drie hbm2-stacks worden toegepast. In totaal heeft deze kaart 933 GB/s geheugenbandbreedte.

Specs A10 

TDP: 150W
FP32: 31.2 teraFLOPS
BFLOAT16 Tensor Core: 125 teraFLOPS | 250 teraFLOPS*
FP16 Tensor Core: 125 teraFLOPS | 250 teraFLOPS*
INT8 Tensor Core: 250 TOPS | 500 TOPS*
GPU bandwidth: 600GB/s
GPU memory: 24GB GDDR6

Specs A30

TDP: 165W
FP32: 10.3 teraFLOPS
BFLOAT16 Tensor Core: 165 teraFLOPS | 330 teraFLOPS*
FP16 Tensor Core: 165 teraFLOPS | 330 teraFLOPS*
INT8 Tensor Core: 330 TOPS | 661 TOPS*
GPU bandwidth: 933GB/s
GPU memory: 24GB HBM2 (on-die)