De laatste tijd zien we diverse bedrijven die tot voor kort niks deden met machine-learning of AI proberen een graantje mee te pikken van deze opkomende markt. Begin van deze week spraken we nog over Esperanto, een bedrijf dat een AI-processor op basis van de RISC-V instructieset wil uitbrengen. Vandaag is er weer een bedrijf dat zich in deze markt stort: CEVA.
CEVA is een halfgeleiderproducent die zich vooral richt op DSP's voor draadloze communicatie en beeld- en geluidverwerking. Nu introduceert het bedrijf echter een AI-processor gericht op machine-learning: NeuPro. Er zijn verschillende modellen met verschillende niveau's van performance.
De NeuPro-processors zijn gericht op inferencing van neurale netwerken, het uitvoeren van al getrainde netwerken. Waar de meeste acceleratoren zich op het trainen van deze netwerken richt, bekend onder de naam deep-learning, versnellen deze processoren dus het uitvoeren van als getrainde netwerken.
Er zijn vier varianten die verschillen in processorkracht. De NP500 is de minst krachtige en moet met 512 MAC-eenheden 2 biljoen operaties per seconde halen, terwijl de NP4000 over 4096 MAC-eenheden beschikt en 12,5 TOPS moet kunnen halen.
| Processor | NP500 | NP1000 | NP2000 | NP4000 |
|---|---|---|---|---|
| MAC units | 512 | 1024 | 2048 | 4096 |
| TOPS | 2 | 12,5 |
High-level blokdiagram
Hardware blokdiagram
