De eerste smartphones hadden allemaal single-core processoren. Lekker makkelijk voor programmeurs, maar dat kon niet anders in die tijd. Processors werden geproduceerd op 90 of 65 nanometer nodes en het in een smartphone laten passen, zowel fysiek als thermisch, van een enkele core was al een uitdaging. Naarmate het productieproces kleiner en efficiënter werd ontstond er meer ruimte om te experimenteren. We zagen de opkomst van de dual-cores en even later de quad-cores, maar ook die waren op een gegeven moment niet meer genoeg.
In 2011 kwam ARM daarom met big.Little. Deze techniek stond toe dat er twee clusters in een processor gecombineerd werden. Zo kon er bijvoorbeeld een cluster met zuinige A53-cores met krachtige A57-cores gecombineerd worden, een configuratie die we onder andere bij de Snapdragon 810 zagen. Het big.Little-concept was zo succesvol dat we het bij alle fabrikanten terug hebben gezien.
Toch zaten er nog een aantal nadelen aan big.Little. Zo moest een cluster allemaal identieke cores bevatten en deelden de clusters niet hun L3-cache. Hierdoor ontstonden een aantal uitdagingen, met name op het gebied van geheugenbeheer. Tevens was de schaalbaarheid beperkt, big.Little stond maximaal twee clusters toe. Je zat dus gelimiteerd aan maximaal twaalf cores van twee verschillende typen.
Om een aantal van deze problemen op te lossen introduceert ARM vandaag een nieuw platform om verschillende cores met elkaar te verbinden, DynamIQ. De grootste verandering is dat nu verschillende cores en core-configuraties samen in een enkel cluster kunnen zitten. Tevens kan het aantal clusters onbeperkt worden opgeschaald, waarbij er maximaal acht cores per cluster kunnen worden aangestuurd.
DynamIQ staat hiermee veel meer vrijheid in core-configuraties toe. Oneven aantallen cores moeten veel makkelijker te implementeren zijn waarbij je bijvoorbeeld één high-performance core 7 efficiëntere cores aanstuurt bij multi-threaded taken. Ook kunnen core-configuraties getweakt worden, waarbij de ene core bijvoorbeeld meer L2-cache heeft.
Het grote voordeel van alle cores in een cluster hebben is dat je een geheugenlaag kan delen. Bij het oude big.Little had elk cluster een eigen L3-cache met de relevante data voor de cores. Indien je een taak van het ene cluster naar het ander wilde migreren moest eerst al deze data gekopieerd worden naar het andere cluster. Met het nieuwe DynamIQ hoeft dit niet meer omdat je verschillende cores nu ook in hetzelfde cluster kan plaatsen. Ze gebruiken dan dezelfde L3-cache en hoeven de data dus niet meer uit een ander cluster te halen, waardoor het migreren van taken naar een krachtiger of efficiënter cluster nu vele malen sneller gaat.
Daarnaast zijn er nog een aantal verbeteringen aan het powermanagement toegevoegd. Van individuele cores kan preciezer de frequentie geregeld worden waardoor apparaten beter binnen hun thermische limieten moeten kunnen blijven. DynamIQ introduceert ook een nieuwe mechanisme om kernen sneller in een andere power-state te kunnen zetten. Tevens heeft het geheugenmanagement een nieuwe feature, als een taak maar weinig cache nodig heeft dan wordt een deel uitgeschakeld om performance te besparen, bijvoorbeeld bij het streamen van muziek.
Naast de traditionele use-cases wil ARM haar processors met DynamIQ ook breder inzetbaar maken. Met ARMv8.2-A heeft het al de eerste stap richting AI gezet door het toevoegen van half-precision (16-bit) floating-point operations. Dit jaar komen er ook nog nieuwe instructies aan om snellere AI-berekeningen te kunnen doen. ARM claimt dat in de komende 3 tot 5 jaar er 50 keer de performance van de huidige Cortex-A73 gehaald moet kunnen worden. Tevens is er een apart low-latency kanaal om data uit te wisselen met accelerators zoals GPU's. De responstijd moet daarmee 10 maal zo laag zijn.
Deze verbeteringen staan toe dat ARM meer kan worden ingezet in autonome voertuigen. Hier is een lage latency namelijk erg belangrijk, maar betrouwbaarheid van data nog veel meer. Om deze markt te kunnen bedienen zijn er ook een aantal mechanismen toegevoegd om te zorgen dat data die binnenkomt op tijd is en ook klopt. ARM is hier echter niet veel dieper op ingegaan.
ARM heeft nog weinig informatie gegeven over wanneer de eerste processors met DynamIQ-configuraties zullen verschijnen. Ergens in de komende maanden moet er nog meer informatie vrijkomen over hoe sommige van de technieken precies werken. Vermoedelijk zullen we in de tweede helft van het jaar de eerste ontwerpen met DynamIQ gaan zien welke dan begin 2018 in de eerste apparaten zullen zitten.
Bronnen: ARM, ARM Press, ARM Blog
