Podle očekávání představila Nvidia na GTC 2024 novou architekturu Blackwell. S čipem B200 a platformou GB200 vstupuje výrobce do nových sfér
Podle očekávání představila společnost Nvidia na právě probíhajícíGTC 2024 (GPU Technology Conference)v pondělí večer novou architekturu Blackwell, která slibuje nastavit nové standardy.
Jak vhodně vysvětlil generální ředitel společnosti Nvidia Jensen Huang, má to být předzvěst „nové éry generativní umělé inteligence“. V jejím čele stojí čip B200, který nahrazuje předchozí vlajkové lodě H100 a GH100 z generace Hopper
Působivé technické specifikace (viz níže) naznačují, že velcí zákazníci, jako jsou Amazon a Microsoft, s odpovídající poptávkou a rozpočtem budou stát u společnosti Nvidia frontu, aby získali co nejvíce těchto čipů
Nejdůležitější věci v kostce
- Nvidia představuje na GTC 2024 novou architekturu Blackwell pro generativní umělou inteligenci.
- Čip B200 nahrazuje vlajkové lodě H100 a GH100 a nabízí vyšší výkon a energetickou účinnost.
- GPU je založen na 4nm výrobním procesu a má 208 miliard tranzistorů.
- Superčip GB200 kombinuje procesory Grace, GPU Blackwell a nabízí extrémně vysoký výpočetní výkon.
Technické údaje čipu Nvidia B200
GPU je vyvinuto na základě výrobního procesu 4NP – speciálního 4nm výrobního procesu, který pro společnost Blackwell navrhl tchajwanský výrobce čipů TSMC.
Podle výrobce je GPU Blackwell vyvinuto na základě výrobního procesu 4NP.
Samotný procesor B200 je v provedení dual-die. Dva vestavěné čipy spolu komunikují prostřednictvím slide-to-die spojení rychlostí až 10 TByte za sekundu, a neměly by proto mít žádné nevýhody ve srovnání s procesem MCM (Multi Chip Module), který používá především společnost AMD.
Karta B200 obsahuje celkem 208 miliard tranzistorů Podle společnosti Nvidia je teoretický výpočetní výkon následující:
- FP8: až 20 PetaFLOPS
- FP16: až 10 PetaFLOPS
- FP32: až 5 PetaFLOPS
Podle Huanga by to mělo vést k přibližně čtyřnásobnému výkonu při trénování AI a třicetinásobnému výkonu při odvozování AI. Energetická účinnost by se přitom měla zlepšit 25krát
Na straně paměti pracuje Nvidia B200 s pamětí HBM3e o velikosti 192 GByte, šířka pásma by měla být až 8 TByte/s.
„Grace Blackwell“ jako nový superčip
Nový čip je také základem superčipu „Grace Blackwell“ s názvem GB200, který bude primárně používán ve vlastním počítači NVL72 společnosti Nvidia a v řešeních na míru.
Věrný svému názvu je GB200 Grace Blackwell hybridním řešením, které se skládá z procesoru Grace se 72 jádry Neoverse V2 od výrobce Arm a dvou zobrazených grafických čipů B200 – jediný čip GB200 má tedy v tomto ohledu čtyři matrice.
Ve výše uvedeném počítači NVL72 je použito 36 procesorů Grace společně se 72 grafickými procesory Blackwell (a tedy 144 matricemi Blackwell), což vede k následujícím šíleným technickým údajům:
- Procesor: 2 592 jader ARM Neoverse V2.
- Paměť: Až 17 TByte LPDDR5X RAM.
- 72 grafických procesorů Blackwell s 13,5 TByte paměti HBM3e.
- FP4 výpočetní výkon: až 1 440 PetaFLOPS
- FP8 výpočetní výkon: Až 720 PetaFLOPS
- FP16 výpočetní výkon: až 360 PetaFLOPS
Díky technologii NVLink, která slibuje šířku pásma až 130 TByte za sekundu, by se měl superpočítač NVL72 chovat jako jeden masivní grafický procesor
Do takové domény NVLink lze zapojit celkem až 576 grafických procesorů – podle Huanga by celkový výpočetní výkon měl stačit na zpracování velkých jazykových modelů (LLM) s biliony parametrů
Předpokládaná spotřeba energie je odpovídajícím způsobem vysoká: jeden superčip GB200 si údajně vyžádá až 2 700 W.
První firemní zákazníci již stojí ve frontě Platforma AI by měla být pro obchodní partnery k dispozici v průběhu roku. Nvidia výslovně zmiňuje poskytovatele cloudových služeb, jako jsou AWS, Google Cloud, Microsoft Azure a Oracle Cloud Infrastructure, kteří nepřekvapivě projevují o architekturu Blackwell zájem. Jak Huang vysvětluje, Nvidia má díky Blackwellu před sebou „nejúspěšnější uvedení na trh v historii společnosti“.
