Apple heeft het, Samsung heeft het, AMD heeft het en Intel heeft het nu ook: zijn eigen NPU.
Dit is een chip die voornamelijk wordt gebruikt in AI-toepassingen. Dat blijkt wel uit het wijdverbreide gebruik bij verschillende fabrikanten: De NPU is duidelijk geen voorbijgaande rage, maar is here to stay.
Maar wat doet een NPU? Waarom wil elke fabrikant er een? Wat doet het voor jou in het dagelijks leven en zal het op een gegeven moment misschien zelfs de GPU vervangen?
-
Wat is een NPU?
- NPU’s: het einde van grafische chips?
- Waarom heeft elke laptop binnenkort een NPU?
- Wat een NPU in de praktijk voor u kan doen
De NPU (Neural Processing Unit) is een processor, net als een CPU of GPU. De NPU is echter niet verantwoordelijk voor grafische of algemene taken. In plaats daarvan is de NPU ontworpen om snel en efficiënt machine-leertaken uit te voeren.
Dit zorgt niet alleen voor een prestatieboost, maar moet ook de belasting op de CPU en GPU verminderen. Hiervoor is de NPU geoptimaliseerd voor de wiskundige berekeningen die plaatsvinden tijdens machine learning.
Bij deze berekeningen zijn NPU’s daarom niet alleen efficiënter dan grafische chips, maar in sommige gevallen zelfs tot 10.000 keer sneller.
NPU’s: het einde voor grafische chips?
Dat klinkt op het eerste gezicht behoorlijk krachtig – en bijna als een zwanenzang voor de GPU in termen van schaal. Zullen we in de toekomst geen GPU’s meer nodig hebben als NPU’s zuiniger en veel sneller zijn?
Omdat NPU’s hun parallellisatie momenteel vooral gebruiken om kleinere, repetitieve taken zo efficiënt mogelijk uit te voeren: De achtergrond vervagen in een videogesprek of een AI-chatbot laten antwoorden.
GPU’s daarentegen nemen grotere taken op zich, zoals grafische berekeningen (die steeds meer steunen op AI), videoverwerking of het trainen van AI-modellen – waardoor ze zelfs in de AI-sector de voorkeurshardware zijn als stroomverbruik geen probleem is.
Tegelijkertijd is er al het concept van een GPNPU (General Purpose NPU), d.w.z. een GPU-NPU hybride. Dit is een enkele chip die bedoeld is om een gezonde balans te vinden tussen de gespecialiseerde NPU en degeneral purpose weaponGPU.
Het is heel goed mogelijk dat dit in de toekomst zo goed werkt dat de GPU en NPU weer samensmelten in één chip, met name voor hardware die bijzonder plaatsgebonden is en afhankelijk van de levensduur van de batterij, zoals smartphones en ultrabooks.
Waarom elke laptop binnenkort een NPU zal hebben
Iedereen die denkt:Dat heb ik niet nodig
ondanks alle voorspelde voordelen van een NPU heeft straks helemaal geen keuze meer. Want de kans is groot dat je over een paar jaar, in ieder geval op de mobiele markt – voor smartphones en laptops – zult moeten grijpen naar een model met een NPU.
Bijna elke grote chipfabrikant heeft al een eigen vorm van NPU ontwikkeld.
Er is bijvoorbeeld Qualcomm, dat NPU’s gebruikt sinds de lancering van de Snapdragon 855in 2018. Toen was het vooral bedoeld om Huawei in te halen, dat als een van de eersten een NPU gebruikte voor zijn eigen Kirin 970-processor, maar nu is het waarschijnlijker om te concurreren met de Exynos-processoren van Samsung, die natuurlijk ook een NPU gebruiken.
Apple gebruikt ook al enige tijd NPU’s in zijn producten -vooral onder de naam Neural Engine. Het is geïnstalleerd in de processors van zowel de M-serie (bijv. Mac) als de A-serie (bijv. iPhone). Een functie waarbij de NPU een rol speelt is Face ID. Met behulp van AI kan de beeldscanner je herkennen, zelfs als je een bril draagt of een baard hebt laten groeien.
Intel is pas in januari echt op de NPU-bandwagon gesprongen. Naast de CPU en geïntegreerde GPU bevat elk van de nieuwe Ultra-chips ook een NPU – een van de redenen waarom Intel besloot om met Meteor Lake over te stappen op een chipletontwerp.
AMD is al iets verder. Nog maar een week of drie geleden presenteerden ze de tweede generatie van hun eigen NPU onder de naam XDNA 2, die in 2024 in de Strix Point-processors zal worden gebruikt
Wat een NPU in de praktijk voor u kan doen
De werkelijke voordelen van veel NPU’s zijn nog beperkt. De chips bieden al een zeker voordeel op het gebied van prestaties en runtime, vooral wanneer hardware en software uit één bron komen (kuch, Apple)
Maar het voordeel van NPU’s moet echt binnen afzienbare tijd gerealiseerd worden. Want op dit moment ziet het er niet naar uit dat AI-toepassingen slechts een voorbijgaande trend zijn.
Voorspellingen zijn moeilijk op zo’n snel ontwikkelend gebied, maar hoe meer apps en toepassingen op de kar springen en generatieve AI in hun gereedschapskist integreren, hoe krachtiger NPU’s waarschijnlijk zullen worden.
Tegelijkertijd zullen besturingssystemen waarschijnlijk nog beter worden in het verdelen van AI-taken tussen CPU, GPU en NPU, waardoor de hardware taken nog efficiënter kan oplossen.
Wat denk jij? Zullen NPU’s in de toekomst een steeds belangrijkere rol spelen in computers? Zullen ze zich bij de CPU en GPU voegen als derde in het peloton – of zullen ze over een paar jaar weer samensmelten met de laatste? Welke toepassingen gebruik je zelf waarbij een NPU in het dagelijks leven zou kunnen helpen – of misschien al doet? Laat het ons weten in de reacties!
