Stapelen
De truc bij High Bandwidth Memory is zoals gezegd dat geheugenchips worden gestapeld. In de eerste generatie HBM-chips worden vier geheugenchips op elkaar gestapeld en in een toekomstige generatie zelfs acht. Een HBM-chip, in jargon een stack genoemd, bestaat buiten de vier lagen met geheugencellen ook nog uit een onderste laag, waar de aansturing plaatsvindt. De geheugencellen worden aangestuurd middels zogenaamde TSV’s, wat staat voor Through Silicon Via’s, in feite verbindingen die door de verschillende lagen heen gaan. Iedere HBM-stack heeft 1024 van dergelijke TSV’s, wat in feite betekent dat er 1024 bits tegelijkertijd verwerkt kunnen worden. Ter vergelijking: een enkele DDR4- of GDDR5-chip heeft een databus die 32 bits breed is.
De vier geheugenlagen waaruit een HBM-stack is opgebouwd, zijn elk opgedeeld in twee kanalen. De in totaal acht kanalen kunnen compleet onafhankelijk van elkaar werken: zelfs de klokfrequentie is niet gedeeld, zodat het in theorie mogelijk is om bepaalde geheugengedeeltes sneller aan te sturen dan andere.
Bij de eerste generatie HBM, zoals toegepast op de Radeon R9 Fury X, bevat iedere gestapelde DRAM-chip een capaciteit van 2 gigabit (256 MB). Dat betekent dat een complete HBM-stack een capaciteit van 1 GB heeft. De 1024 I/O-kanalen kunnen volgens de officiële presentaties van Hynix werken op 500 MHz DDR-snelheid, wat neerkomt op één gigabit per seconde per pin. Dat houdt dat een enkele HBM-stack een bandbreedte tussen de één terabit per seconde, ofwel de 128 gigabyte per seconde.
Door het stapelen en doordat de aansturing van de geheugencellen van onderaf gebeurt, kan een HBM-stack veel kleiner zijn dan een conventionele geheugenchip van 1GB. Volgens Hynix is een normale 1GB DDR4-geheugenchip zelfs 37x groter dan een HBM-stack. Let wel: dat is een beetje appels met peren vergelijken, aangezien DDR4 wordt geleverd in conventionele geheugenchipverpakkingen met contactpuntjes die op een PCB gesoldeerd kunnen worden. HBM wordt daarentegen geleverd als losse stapeling van chips en moet direct naast de GPU of CPU worden geplaatst die van het geheugen gebruik wil maken.
Binnen een HBM-stack worden in eerste instantie vier geheugenchips gestapeld. Alle geheugencellen worden vanuit een onderste laag aangestuurd via dataverbindingen die door de chip heengaan, de zogenaamde Through Silicon Via’s.
Een HBM-stack bestaat uit een laag met aansturing en daarbovenop vier gestapelde geheugenchips. Elke laag is opgedeeld in twee geheugenkanalen, die afzonderlijk aangestuurd kunnen worden.
Een 1GB HBM-stack, die dus niet in de gebruikelijke verpakking van een geheugenchip zit, is kleiner dan een aspirientje. 1GB DDR4-geheugen in conventionele verpakking is volgens Hynix 37x groter.
