NPU są obecnie dostępne w ofercie niemal każdego liczącego się producenta sprzętu. Ale co to za układ? Co potrafi i co czyni go tak wyjątkowym? Wyjaśniamy to w
Apple ma, Samsung ma, AMD ma, a teraz Intel też ma: własne NPU.
Jest to układ, który jest używany głównie w aplikacjach AI. Świadczy o tym szerokie zastosowanie wśród producentów: NPU najwyraźniej nie jest przelotną modą, ale pozostanie tutaj.
Ale do czego służy NPU? Dlaczego każdy producent chce go mieć? Co robi w codziennym życiu i czy w pewnym momencie zastąpi GPU?
- Co to jest NPU?
- NPU: koniec układów graficznych?
- Dlaczego każdy laptop wkrótce będzie miał NPU?
- Co NPU może zrobić dla ciebie w praktyce
Co to jest NPU?
NPU (Neural Processing Unit) to procesor, podobnie jak CPU czy GPU. Jednak jego obszar odpowiedzialności nie obejmuje grafiki ani ogólnych zadań. Zamiast tego NPU został zaprojektowany do szybkiego i wydajnego wykonywania zadań uczenia maszynowego.
Zapewnia to nie tylko wzrost wydajności, ale powinno również zmniejszyć obciążenie CPU i GPU. W tym celu NPU został zoptymalizowany pod kątem obliczeń matematycznych, które mają miejsce podczas uczenia maszynowego.
Podobnie jak układy graficzne, wykorzystuje równoległość do wykonywania wielu małych zadań jednocześnie. Jednocześnie jest jeszcze bardziej wyspecjalizowany.
W tych obliczeniach NPU są więc nie tylko wydajniejsze od układów graficznych, ale w niektórych przypadkach nawet 10 000 razy szybsze.
NPU: Koniec układów graficznych?
Na początku brzmi to cholernie potężnie – i prawie jak łabędzi śpiew dla GPU pod względem skali. Czy w przyszłości nie będziemy już potrzebować procesorów graficznych, jeśli jednostki NPU będą bardziej ekonomiczne i szybsze?
W tej chwili odpowiedź jest dość jasna: tak
Ponieważ obecnie procesory NPU wykorzystują swoją równoległość głównie do wykonywania mniejszych, powtarzalnych zadań tak wydajnie, jak to tylko możliwe: Rozmycie tła w rozmowie wideo lub pozwolenie chatbotowi AI na odpowiedź.
Z drugiej strony, procesory graficzne podejmują się większych zadań, takich jak obliczenia graficzne (które w coraz większym stopniu opierają się na sztucznej inteligencji), przetwarzanie wideo lub trenowanie modeli sztucznej inteligencji – co czyni je sprzętem z wyboru nawet w sektorze sztucznej inteligencji, jeśli zużycie energii nie jest problemem.
W tym samym czasie pojawiła się już koncepcja GPNPU (General Purpose NPU), czyli hybrydy GPU-NPU. Jest to pojedynczy chip, który ma zapewnić zdrową równowagę między wyspecjalizowanym NPU a bronią ogólnego przeznaczenia
GPU.
Całkiem możliwe, że w przyszłości będzie to działać tak dobrze, że GPU i NPU ponownie połączą się w jeden układ, zwłaszcza w przypadku sprzętu, który jest szczególnie ograniczony przestrzennie i zależny od żywotności baterii, takiego jak smartfony i ultrabooki.
Dlaczego każdy laptop wkrótce będzie miał NPU
Każdy, kto myśli:Nie potrzebuję tego
pomimo wszystkich przewidywanych zalet NPU, wkrótce nie będzie miał żadnego wyboru. Istnieje bowiem duże prawdopodobieństwo, że za kilka lat, przynajmniej na rynku mobilnym – smartfonów i laptopów – trzeba będzie sięgnąć po model z NPU.
Prawie każdy liczący się producent układów scalonych opracował już własną formę NPU.
Na przykład Qualcomm, który wykorzystuje NPU od czasu premiery Snapdragona 855w 2018 roku. W tamtym czasie głównym celem było dogonienie Huawei, który jako jeden z pierwszych zastosował NPU w swoim wewnętrznym procesorze Kirin 970, ale teraz jest bardziej prawdopodobne, że będzie konkurować z procesorami Exynos Samsunga, które oczywiście również wykorzystują NPU.
Apple również od jakiegoś czasu wykorzystuje NPU w swoich produktach -zwłaszcza pod nazwą Neural Engine. Jest on instalowany w procesorach serii M (np. Mac), jak również serii A (np. iPhone). Jedną z funkcji, w której NPU wchodzi w grę, jest Face ID. Wykorzystując sztuczną inteligencję, skaner obrazu może rozpoznać użytkownika, nawet jeśli nosi on okulary lub zapuścił brodę.
Intel tak naprawdę wskoczył na modę NPU dopiero w styczniu. Oprócz CPU i zintegrowanego GPU, każdy z nowych układów Ultra zawiera również NPU – jeden z powodów, dla których Intel zdecydował się przejść na konstrukcję chiplet w Meteor Lake.
AMD jest już nieco dalej z przodu. Zaledwie około trzy tygodnie temu zaprezentowali drugą generację własnego NPU pod nazwą XDNA 2, która zostanie wykorzystana w procesorach Strix Point w 2024 roku
Co NPU może zrobić dla Ciebie w praktyce
Faktyczne korzyści płynące z wielu procesorów NPU są wciąż ograniczone. Chipy już teraz zapewniają pewną przewagę pod względem wydajności i czasu działania, zwłaszcza tam, gdzie sprzęt i oprogramowanie pochodzą z jednego źródła (kaszel, Apple)
Ale przewaga NPU powinna zostać naprawdę zrealizowana w dającej się przewidzieć przyszłości. Ponieważ w tej chwili nie wygląda na to, aby aplikacje AI były tylko przemijającym trendem.
Prognozy są trudne w tak szybko rozwijającej się dziedzinie, ale im więcej aplikacji i aplikacji wskoczy na modę i zintegruje generatywną sztuczną inteligencję ze swoim zestawem narzędzi, tym potężniejsze mogą stać się procesory NPU.
W tym samym czasie systemy operacyjne prawdopodobnie staną się jeszcze lepsze w dystrybucji zadań AI pomiędzy CPU, GPU i NPU, co pozwoli sprzętowi na jeszcze wydajniejsze rozwiązywanie zadań.
Co o tym sądzisz? Czy jednostki NPU będą odgrywać coraz ważniejszą rolę w komputerach w przyszłości? Czy dołączą do CPU i GPU jako trzecie w pakiecie – czy też za kilka lat ponownie połączą się z tymi ostatnimi? Z jakich aplikacji korzystasz, w których NPU mogłyby pomóc w codziennym życiu – a może już to robią? Daj nam znać w komentarzach!
