SK hynix, een merk dat vooral bekendstaat om hun nand, ssd's en geheugenmodules, heeft hun eigen prototype van een Generative AI Accelerator uitgebracht. Dit gebeurde tijdens de AI Hardware & Edge AI Summit 2023, die vorige week in Californië werd georganiseerd. De GDDR6-AiMX Accelerator Card, genaamd AiMX, is specifiek ontworpen voor gebruik in data-intensieve generatieve AI-systemen, zoals bijvoorbeeld ChatGPT of Google Bard.
De accelerator kaart van SK hynix
Het systeem maakt gebruik van Processing-In-Memory en SK hynix's eigen AiM Accelerator in Memory om hoge snelheden te bereiken met een laag energieverbruik, wat ideaal is voor het draaien van deze modellen. Generatieve AI-modellen profiteren van training, dus systemen met veel geheugen, zoals SK hynix's product, werken uitstekend voor dit doel
Het demonstratie systeem met Meta's AI draaiend op het een AiMX prototype systeem
Tijdens de conferentie demonstreerde SK hynix het draaien van Meta's generatieve AI Open Pretrained Transformer (OPT) 13B-model op een systeem met het AiMX-prototype. Volgens de fabrikant was het systeem 10 keer sneller dan traditionele systemen met GPU's, terwijl het slechts ongeveer een vijfde van de hoeveelheid stroom verbruikte. Bedrijven die generatieve AI-services aanbieden, toonden serieuze interesse, aangezien bestaande generatieve AI-accelerators niet konden concurreren met het model van SK hynix. Eui-cheol Lim, vice-president van de Solution Development Division, merkte op:
"SK hynix's AiMX is een oplossing die hoge snelheden biedt, terwijl het minder energie verbruikt en kostenefficiënter is dan traditionele GPU's. We blijven geheugentechnologieën ontwikkelen die de weg wijzen in kunstmatige intelligentie."
Bron: TechPowerUp
