NPU jsou nyní k dispozici téměř u všech významných výrobců hardwaru. O jaký druh čipu se však jedná? Co umí a čím je tak výjimečný? Vysvětlíme vám to
Apple ho má, Samsung ho má, AMD ho má a nyní ho má i Intel: vlastní NPU.
Jedná se o čip, který se používá především v aplikacích umělé inteligence. Svědčí o tom široké využití napříč výrobci:
NPU zjevně není přechodným módním výstřelkem, ale zůstane zde.
Ale co NPU dělá? Proč ji chce každý výrobce? K čemu vám bude v každodenním životě a nahradí snad někdy i GPU?
- Co je NPU?
- NPU: Konec grafických čipů?
- Proč bude mít brzy každý notebook NPU
- Co pro vás může NPU udělat v praxi
Co je NPU?
Neprocesorová jednotka (NPU) je procesor, stejně jako CPU nebo GPU. Její oblastí odpovědnosti však není grafika nebo obecné úlohy. Místo toho je NPU navržena tak, aby rychle a efektivně prováděla úlohy strojového učení.
Tím se nejen zvýší výkon, ale mělo by se také snížit zatížení CPU a GPU. Za tímto účelem byl NPU optimalizován pro matematické výpočty, které probíhají při strojovém učení.
Stejně jako grafické čipy využívá paralelizaci k řešení mnoha malých úloh najednou. Zároveň je ještě více specializovaný.
Při těchto výpočtech jsou proto NPU nejen efektivnější než grafické čipy, ale v některých případech dokonce až 10 000krát rychlejší.
NPU: Konec grafických čipů?
To zní na první pohled zatraceně výkonně – a téměř jako labutí píseň pro GPU z hlediska rozsahu. Nebudeme už v budoucnu potřebovat GPU, pokud budou NPU úspornější a mnohem rychlejší?
V současné době je odpověď zcela jasná: ano
Protože NPU v současnosti využívají svou paralelizaci především k co nejefektivnějšímu řešení menších, opakujících se úloh:
Rozmazání pozadí při videohovoru nebo umožnění odpovědi chatbotu s umělou inteligencí.
GPU naopak přebírají větší úlohy, jako jsou grafické výpočty (které se stále více opírají o AI), zpracování videa nebo trénování modelů AI – což z nich dělá hardware, který je volbou i v oblasti AI, pokud není problémem spotřeba energie.
Současně již existuje koncept GPNPU (General Purpose NPU), tedy hybrid GPU a NPU. Jedná se o jediný čip, který má zajistit zdravou rovnováhu mezi specializovaným NPU aobecným zbraňovým
GPU.
Je docela možné, že to bude v budoucnu fungovat tak dobře, že se GPU a NPU opět spojí do jednoho čipu, zejména u hardwaru, který je obzvláště omezený prostorem a závislý na výdrži baterie, jako jsou chytré telefony a ultrabooky.
Proč bude brzy každý notebook vybaven NPU
Kdo si myslí:To nepotřebuji
navzdory všem předpokládaným výhodám NPU, nebude mít brzy vůbec na výběr. Je totiž vysoká pravděpodobnost, že za několik let budete muset přinejmenším na mobilním trhu – u chytrých telefonů a notebooků – sáhnout po modelu s NPU.
Téměř každý významný výrobce čipů již vyvinul vlastní formu NPU.
Je tu například společnost Qualcomm, která NPU používá od uvedení modelu Snapdragon 855v roce 2018. Tehdy bylo hlavním cílem dohnat společnost Huawei, která jako jedna z prvních použila NPU u svého vlastního procesoru Kirin 970. Nyní však spíše konkuruje procesorům Exynos společnosti Samsung, které samozřejmě také používají NPU.
Apple také již nějakou dobu používá NPU ve svých produktech -zejména pod názvem Neural Engine. Ten je instalován v procesorech řady M (např. Mac) i řady A (např. iPhone). Jednou z funkcí, v níž NPU vstupuje do hry, je Face ID. Pomocí umělé inteligence vás skener obrazu rozpozná, i když máte brýle nebo jste si nechali narůst vousy.
Intel se na vlnu NPU skutečně vrhl až v lednu. Každý z nových čipů Ultra obsahuje kromě CPU a integrovaného GPU také NPU – to je jeden z důvodů, proč se Intel rozhodl u Meteor Lake přejít na čipovou konstrukci.
AMD je již o něco dále. Teprve zhruba před třemi týdny představila druhou generaci svého vlastního NPU pod názvem XDNA 2, který bude v roce 2024 použit v procesorech Strix Point
Co pro vás může NPU udělat v praxi
Skutečné přínosy mnoha NPU jsou zatím omezené. Čipy již poskytují určitou výhodu z hlediska výkonu a doby běhu, zejména tam, kde hardware a software pocházejí z jednoho zdroje (kašleme, Apple)
Výhoda NPU by se však měla v dohledné době skutečně projevit. V současné době to totiž nevypadá, že by aplikace umělé inteligence byly jen přechodným trendem.
Předpovědi jsou v tak rychle se rozvíjejícím oboru obtížné, ale čím více aplikací a aplikací naskočí do rozjetého vlaku a začlení generativní umělou inteligenci do svých nástrojů, tím výkonnější NPU pravděpodobně budou.
Současně je pravděpodobné, že operační systémy budou ještě lépe rozdělovat úlohy AI mezi CPU, GPU a NPU, což umožní hardwaru řešit úlohy ještě efektivněji.
Co si o tom myslíte? Budou NPU v budoucnu hrát v počítačích stále důležitější roli? Připojí se k CPU a GPU jako třetí do party – nebo se s nimi za pár let opět spojí? Které aplikace sami používáte, kde by NPU mohl pomoci v každodenním životě – nebo možná již pomáhá? Dejte nám vědět v komentářích!
