Samsung heeft een nieuwe geheugensoort aangekondigd op basis van hbm2. De nieuwe versie heeft de naam hbm-pim gekregen, waarbij het achtervoegsel staat voor processing in memory. Bij elke geheugenbank zit namelijk een programmeerbare rekeneenheid ingebakken, die maximaal 1,2 teraflops aan rekenkracht kan bieden.
Deze rekenkern, de programmable compute unit (pcu) genoemd, moet berekeningen die te maken hebben met het verplaatsen van data overnemen van bijvoorbeeld een conventionele processor of gpu. Samsung meent dat hbm-pim de efficiëntie van geheugen flink ten goede moet komen: in een eigen test met een gpu toont het bedrijf een ruime verdubbeling qua prestaties, terwijl het stroomverbruik met 71 procent afneemt.
In deze slides wordt naar hbm-pim verwezen onder de naam 'FIMDRAM', een interne codenaam.
Elke pcu werd in het experiment op 300 MHz gedraaid, en kan overweg met 16-bits floating point-data. Per hbm-stapel levert dat een maximale rekenkracht van 1,2 tlfops op. Uiteraard nemen de pcu's wel ruimte in beslag, en daarom heeft hbm-pin de helft van de geheugendichtheid van standaard hbm2 (4 Gbit per die versus 8 Gbit).
Om dit nadeel enigszins te omzeilen maakt Samsung stapels van acht dies hoog, waarvan vier hbm-pin zijn en vier standaard hbm2. De totale capaciteit van die stapel is dan 6 GB (4 * 4 Gbit + 4 * 8 Gbit), tegenover 8 GB bij gewoon hbm2.
Samsung claimt dat de huidige implementatie van hbm-pim volledig compatibel is met bestaande geheugencontrollers. Als het nodig mocht zijn kan de nieuwe geheugensoort zich ook als standaard hbm2 gedragen.
Hbm-pim wordt door het Koreaanse bedrijf op de compute-markt gericht, met ai-werkzaamheden zoals inference als focus. Wat de toevoeging van de pcu's doet met de temperaturen van het geheugen wordt niet behandeld. Juist omdat de verschillende dies bij hbm bovenop elkaar worden gestapeld, wat de warmteoverdracht in principe niet ten goede komt, is dat nog een relevant vraagstuk.
Volgens Samsung zijn er al verschillende bedrijven die aan het experimenteren zijn met de implementatie van hbm-pim, en zullen alle nodige validaties naar verwachting nog in de eerste helft van dit jaar worden afgerond. De technologie moet dus relatief snel op grotere schaal toegepast kunnen gaan worden.
Bron: Tom's Hardware
