Nuovi standard? Quello che è stato appena mostrato al GTC verrà strappato dalle mani di Nvidia

in corso, che promette di stabilire nuovi standard.

Le impressionanti specifiche tecniche (vedi sotto) suggeriscono che clienti importanti come Amazon e Microsoft, con le relative richieste e budget, faranno la fila da Nvidia per ottenere il maggior numero possibile di questi chip.

Contenuto generato daKI

Le cose più importanti in breve

• Nvidia presenta la nuova architettura Blackwell per l’IA generativa alla GTC 2024.
  Il chip B200 sostituisce le ammiraglie H100 e GH100 e offre prestazioni ed efficienza energetica migliori.
  La GPU è basata su un processo produttivo a 4 nm e dispone di 208 miliardi di transistor.
  Il superchip GB200 combina processori Grace e GPU Blackwell e offre una potenza di calcolo estremamente elevata.

Dati tecnici di Nvidia B200

La GPU è stata sviluppata sulla base del processo produttivo 4NP, uno speciale processo di produzione a 4 nm progettato per Blackwell dal produttore di chip taiwanese TSMC.

Il B200 stesso è un progetto a doppio chip. I due chip integrati comunicano tramite un collegamento slide-to-die a una velocità fino a 10 TByte al secondo e non dovrebbero quindi presentare svantaggi rispetto al processo MCM (Multi Chip Module), utilizzato principalmente da AMD.

La scheda B200 contiene un totale di 208 miliardi di transistor

Secondo Nvidia, la potenza di calcolo teorica è la seguente:

• FP8

  : fino a 20 PetaFLOPS
  

  FP16

  : fino a 10 PetaFLOPS
  

  FP32

  : Fino a 5 PetaFLOPS
  Sul fronte della memoria, Nvidia B200 lavora con 192 GByte di memoria HBM3e, la cui larghezza di banda dovrebbe raggiungere gli 8 TByte/s.

  “Grace Blackwell” come nuovo superchip

  Il nuovo chip costituisce anche la base per il superchip “Grace Blackwell” chiamato GB200, che sarà utilizzato principalmente nel computer NVL72 di Nvidia e in soluzioni personalizzate.

  Fedele al suo nome, il GB200 Grace Blackwell è una soluzione ibrida composta da un processore Grace con 72 core Neoverse V2 del produttore Arm e da due dei chip grafici B200 indicati – quindi un singolo chip GB200 ha quattro die in questo senso.

  Nel computer NVL72 di cui sopra, 36 CPU Grace sono utilizzate insieme a 72 GPU Blackwell (e di conseguenza 144 die Blackwell), il che comporta i seguenti folli dati tecnici:

  • Processore

    : 2.592 core ARM Neoverse V2
    

    Memoria

    : fino a 17 TByte di RAM LPDDR5X
    

    72 GPU Blackwell

    con 13,5 TByte di memoria HBM3e
    

    FP4 potenza di calcolo

    : fino a 1.440 PetaFLOPS
    

    FP8 potenza di calcolo

    : fino a 720 PetaFLOPS
    

    FP16 potenza di calcolo

    : fino a 360 PetaFLOPS
    

    Grazie a NVLink, che promette una larghezza di banda fino a 130 TByte al secondo, il supercomputer NVL72 dovrebbe comportarsi come un singolo processore grafico massivo

    Un totale di 576 GPU può essere collegato in un dominio NVLink – secondo Huang, la potenza di calcolo totale dovrebbe essere sufficiente per elaborare grandi modelli linguistici (LLM) con trilioni di parametri.

    Il consumo energetico ipotizzato è di conseguenza elevato: si dice che un singolo superchip GB200 richieda fino a 2.700 watt.

    I primi clienti commerciali sono già in coda La piattaforma AI dovrebbe essere disponibile per i partner commerciali nel corso dell’anno. Nvidia cita esplicitamente cloud provider come AWS, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure, che stanno mostrando interesse per l’architettura Blackwell. Come spiega Huang, con Blackwell Nvidia si appresta al “lancio di maggior successo nella storia dell’azienda”.