Como esperado, a Nvidia apresentou a nova arquitetura Blackwell naGTC 2024 (GPU Technology Conference)na noite de segunda-feira, prometendo estabelecer novos padrões.
Como explicou Jensen Huang, Diretor Executivo da Nvidia, o objetivo é anunciar uma “nova era de IA generativa”. Na ponta de lança deste projeto está o chip B200, que substitui os anteriores H100 e GH100 da geração Hopper
As impressionantes especificações técnicas (ver abaixo) sugerem que os principais clientes, como a Amazon e a Microsoft, com a correspondente procura e orçamento, farão fila na Nvidia para obter o maior número possível destes chips.
As coisas mais importantes em poucas palavras
- Nvidia apresenta a nova arquitetura Blackwell para IA generativa na GTC 2024.
- O chip B200 substitui os emblemáticos H100 e GH100 e oferece melhor desempenho e eficiência energética.
- A GPU baseia-se num processo de fabrico de 4 nm e tem 208 mil milhões de transístores.
- O superchip GB200 combina processadores Grace e GPUs Blackwell e oferece uma potência de computação extremamente elevada.
Dados técnicos da Nvidia B200
A GPU é desenvolvida com base no processo de fabrico 4NP – um processo de produção especial de 4 nm concebido para a Blackwell pelo fabricante de chips taiwanês TSMC.
O B200 em si é um design de dupla matriz. Os dois chips incorporados comunicam através de uma ligação slide-to-die a uma velocidade de até 10 TByte por segundo e, por conseguinte, não devem ter desvantagens em comparação com o processo MCM (Multi Chip Module), que é utilizado principalmente pela AMD.
Há um total de 208 mil milhões de transístores na placa B200. De acordo com a Nvidia, o poder de computação teórico é o seguinte:- FP8: Até 20 PetaFLOPS
- FP16: Até 10 PetaFLOPS
- FP32: Até 5 PetaFLOPS
De acordo com Huang, isto deverá resultar em cerca de quatro vezes o desempenho na formação de IA e 30 vezes o desempenho na inferência de IA. Entretanto, a eficiência energética deverá ser melhorada por um fator de 25.
No que respeita à memória, a Nvidia B200 funciona com uma memória HBM3e de 192 GByte e a largura de banda deverá atingir 8 TByte/s.
O “Grace Blackwell” como um novo superchip
O novo chip também forma a base para o superchip “Grace Blackwell” chamado GB200, que será usado principalmente no computador NVL72 da própria Nvidia e em soluções personalizadas.
Fiel ao seu nome, o GB200 Grace Blackwell é uma solução híbrida que consiste num processador Grace com 72 núcleos Neoverse V2 do fabricante Arm e dois dos chips gráficos B200 apresentados – por isso, um único chip GB200 tem quatro matrizes neste aspeto.
No computador NVL72 mencionado acima, 36 das CPUs Grace são utilizadas em conjunto com 72 GPUs Blackwell (e, consequentemente, 144 matrizes Blackwell), o que resulta nos seguintes dados técnicos loucos:
- Processador: 2.592 núcleos ARM Neoverse V2
- Memória: Até 17 TByte de RAM LPDDR5X
- 72 GPUs Blackwellcom 13,5 TByte de memória HBM3e
Poder de computação do FP4
Graças ao NVLink, que promete até 130 TByte por segundo de largura de banda, o supercomputador NVL72 deverá comportar-se como um único e enorme processador gráfico
O consumo de energia previsto é correspondentemente elevado: diz-se que um único superchip GB200 requer até 2.700 watts.
Os primeiros clientes empresariais já estão a fazer fila A plataforma de IA deverá estar disponível para parceiros empresariais no decurso do ano. A Nvidia menciona explicitamente os fornecedores de serviços em nuvem, como a AWS, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure, que, sem surpresa, estão a mostrar interesse na arquitetura Blackwell. Como explica Huang, a Nvidia está a enfrentar o “lançamento mais bem sucedido da história da empresa” com a Blackwell.
