Nové standardy? To, co bylo právě předvedeno na GTC, bude Nvidii vyrváno z rukou

v pondělí večer novou architekturu Blackwell, která slibuje nastavit nové standardy.

Jak vhodně vysvětlil generální ředitel společnosti Nvidia Jensen Huang, má to být předzvěst „nové éry generativní umělé inteligence“. V jejím čele stojí čip B200, který nahrazuje předchozí vlajkové lodě H100 a GH100 z generace Hopper

Působivé technické specifikace (viz níže) naznačují, že velcí zákazníci, jako jsou Amazon a Microsoft, s odpovídající poptávkou a rozpočtem budou stát u společnosti Nvidia frontu, aby získali co nejvíce těchto čipů

Obsah vytvořený společnostíKI

Nejdůležitější věci v kostce

• Nvidia představuje na GTC 2024 novou architekturu Blackwell pro generativní umělou inteligenci.
  Čip B200 nahrazuje vlajkové lodě H100 a GH100 a nabízí vyšší výkon a energetickou účinnost.
  GPU je založen na 4nm výrobním procesu a má 208 miliard tranzistorů.
  Superčip GB200 kombinuje procesory Grace, GPU Blackwell a nabízí extrémně vysoký výpočetní výkon.

Technické údaje čipu Nvidia B200

GPU je vyvinuto na základě výrobního procesu 4NP – speciálního 4nm výrobního procesu, který pro společnost Blackwell navrhl tchajwanský výrobce čipů TSMC.

Podle výrobce je GPU Blackwell vyvinuto na základě výrobního procesu 4NP.


Samotný procesor B200 je v provedení dual-die. Dva vestavěné čipy spolu komunikují prostřednictvím slide-to-die spojení rychlostí až 10 TByte za sekundu, a neměly by proto mít žádné nevýhody oproti procesu MCM (Multi Chip Module), který používá především společnost AMD.

Karta B200 obsahuje celkem 208 miliard tranzistorů

Podle společnosti Nvidia je teoretický výpočetní výkon následující:

• FP8

  : až 20 PetaFLOPS
  

  FP16

  : až 10 PetaFLOPS
  

  FP32

  : až 5 PetaFLOPS
  

  Podle Huanga by to mělo přinést přibližně čtyřnásobný výkon pro trénování AI a 30násobný výkon pro odvozování AI. Energetická účinnost by se přitom měla zlepšit 25krát

  Na straně paměti pracuje Nvidia B200 s pamětí HBM3e o velikosti 192 GByte, šířka pásma by měla být až 8 TByte/s.

  „Grace Blackwell“ jako nový superčip

  Nový čip tvoří také základ superčipu „Grace Blackwell“ s názvem GB200, který bude primárně využíván ve vlastním počítači NVL72 společnosti Nvidia a v řešeních na míru.

  Věrný svému názvu je GB200 Grace Blackwell hybridním řešením, které se skládá z procesoru Grace se 72 jádry Neoverse V2 od výrobce Arm a dvou zobrazených grafických čipů B200 – jediný čip GB200 má tedy v tomto ohledu čtyři matrice.

  Ve výše uvedeném počítači NVL72 je použito 36 procesorů Grace společně se 72 grafickými procesory Blackwell (a tedy 144 matricemi Blackwell), což vede k následujícím šíleným technickým údajům:

  • Procesor

    : 2 592 jader ARM Neoverse V2.
    

    Paměť

    : Až 17 TByte LPDDR5X RAM.
    

    72 grafických procesorů Blackwell

    s 13,5 TByte paměti HBM3e.
    

    FP4 výpočetní výkon

    : až 1 440 PetaFLOPS
    

    FP8 výpočetní výkon

    : Až 720 PetaFLOPS
    

    FP16 výpočetní výkon

    : až 360 PetaFLOPS
    

    Díky technologii NVLink, která slibuje šířku pásma až 130 TByte za sekundu, by se měl superpočítač NVL72 chovat jako jeden masivní grafický procesor

    Do takové domény NVLink lze zapojit celkem až 576 grafických procesorů – podle Huanga by celkový výpočetní výkon měl stačit na zpracování velkých jazykových modelů (LLM) s biliony parametrů

    Předpokládaná spotřeba energie je odpovídajícím způsobem vysoká: jeden superčip GB200 si údajně vyžádá až 2 700 W.

    První firemní zákazníci již stojí ve frontě Platforma AI by měla být pro obchodní partnery k dispozici v průběhu roku. Nvidia výslovně zmiňuje poskytovatele cloudových služeb, jako jsou AWS, Google Cloud, Microsoft Azure a Oracle Cloud Infrastructure, kteří nepřekvapivě projevují o architekturu Blackwell zájem. Jak Huang vysvětluje, Nvidia je s Blackwellem na pokraji „nejúspěšnějšího uvedení na trh v historii společnosti“.