Op de GTC heeft Nvidia de vernieuwe DGX Station gepresenteerd, een systeem ontwikkeld voor AI. De oude versie was uitgerust met vier Nvidia A100 GPU’s met 40GB geheugen aan boord, de nieuwe heeft dezelfde grafische processors, maar dan met 80GB per stuk. Dat betekent dat het systeem over in totaal over 320GB geheugen beschikken, de oude had dus ‘maar’ de helft.
De DGX-Station is 'office friendly'
De A100’s zijn via NVlink met elkaar gekoppeld. Het grotere geheugen betekent dat onderzoekers aan nog grotere modellen kunnen werken. De A100 met 80GB geheugen biedt 2TB/s geheugenbandbreedte, de 40GB-variant moet het doen met 1,6TB/s
Er is ook een rackvariant leverbaar.
Een systeem dat dus zeer zware berekeningen kan uitvoeren. De gpu’s worden aangedreven door een AMD Epyc 7742 met 64 cores, om een scherm aan te sluiten is er nog een simpele videokaart ingebouwd met vier displayport-aansluitingen en 4GB-geheugen.
Volgens de fabrikant biedt de DGX Station 2,5 Petaflops voor AI-berekeningen. Om dit prestatieniveau te behalen zijn vaak grote hoeveelheden servers nodig en grote investeringen. Het voordeel van de DGX Station is dat hij geleverd kan worden in een 4U hoge rack-behuizing om in een compacte tower. Het geluidsniveau is slechts 37 dB en dat betekent dat het apparaat niet perse in een datacenter geplaatst hoeft te worden. Nvidia noemt dit ‘office friendly’.
Nvidia rekent voor de DGX Station een bedrag van 149.000 USD, maar je kunt hem ook leasen voor 9000 USD per maand.
Bronnen: Robovision.ai, Tom's Hardware
