Как и ожидалось, на GTC 2024 компания Nvidia представила новую архитектуру Blackwell. С чипом B200 и платформой GB200 производитель выходит в новые сферы
Как и ожидалось, компания Nvidia представила новую архитектуру Blackwell на проходящейGTC 2024 (GPU Technology Conference)в понедельник вечером, пообещав установить новые стандарты.
По словам генерального директора Nvidia Дженсена Хуанга, это должно возвестить о наступлении «новой эры генеративного ИИ». Во главе угла стоит чип B200, который заменит предыдущие флагманы H100 и GH100 из поколения Hopper
Впечатляющие технические характеристики (см. ниже) позволяют предположить, что такие крупные заказчики, как Amazon и Microsoft, имеющие соответствующий спрос и бюджет, будут стоять в очереди в Nvidia, чтобы получить как можно больше этих чипов.
Самые важные вещи в двух словах
- Nvidia представляет новую архитектуру Blackwell для генеративного ИИ на GTC 2024.
- Чип B200 пришел на смену флагманам H100 и GH100 и предлагает улучшенную производительность и энергоэффективность.
- Графический процессор основан на 4-нм техпроцессе и имеет 208 миллиардов транзисторов.
- Суперчип GB200 объединяет процессоры Grace, графические процессоры Blackwell и обеспечивает чрезвычайно высокую вычислительную мощность.
Технические данные Nvidia B200
Графический процессор разработан на основе производственного процесса 4NP — специального 4 нм производственного процесса, разработанного для Blackwell тайваньским производителем чипов TSMC.
Сам процессор B200 представляет собой двухматричную конструкцию. Два встроенных чипа обмениваются данными по каналу «слайд-пластина» со скоростью до 10 Тбайт/с и поэтому не должны иметь недостатков по сравнению с процессом MCM (Multi Chip Module), который в основном используется компанией AMD.
В общей сложности в карте B200 насчитывается 208 миллиардов транзисторов По данным Nvidia, теоретическая вычислительная мощность выглядит следующим образом:
- FP8: до 20 PetaFLOPS
- FP16: до 10 петафлопс
- FP32: до 5 петафлопс
По словам Хуанга, это должно привести к увеличению производительности при обучении ИИ примерно в четыре раза и в 30 раз — при выводе данных. При этом энергоэффективность должна быть повышена в 25 раз.
Что касается памяти, Nvidia B200 работает с памятью HBM3e объемом 192 Гбайт, пропускная способность должна достигать 8 Тбайт/с.
«Грейс Блэквелл» как новый суперчип
Новый чип также является основой для суперчипа «Grace Blackwell» под названием GB200, который в первую очередь будет использоваться в собственном компьютере Nvidia NVL72 и заказных решениях.
Согласно своему названию, GB200 Grace Blackwell представляет собой гибридное решение, состоящее из процессора Grace с 72 ядрами Neoverse V2 от производителя Arm и двух показанных графических чипов B200 — таким образом, один чип GB200 имеет четыре матрицы.
В упомянутом выше компьютере NVL72 36 процессоров Grace используются вместе с 72 графическими процессорами Blackwell (и, соответственно, 144 плашками Blackwell), что приводит к следующим безумным техническим данным:
- Процессор: 2 592 ядра ARM Neoverse V2
- память: до 17 Тбайт оперативной памяти LPDDR5X
- 72 графических процессора Blackwell с памятью HBM3e объемом 13,5 Тбайт
Вычислительная мощность - FP4: до 1 440 PetaFLOPS
- FP8 вычислительная мощность: до 720 петафлопс
- FP16 вычислительная мощность: до 360 петафлопс
Благодаря технологии NVLink, которая обеспечивает пропускную способность до 130 Тбайт/с, суперкомпьютер NVL72 должен вести себя как один массивный графический процессор
В общей сложности в такой домен NVLink можно подключить до 576 GPU — по словам Хуанга, общей вычислительной мощности должно хватить для обработки больших языковых моделей (LLM) с триллионами параметров
Предполагаемое энергопотребление соответственно высоко: один суперчип GB200, как утверждается, требует до 2700 Вт.
Первые бизнес-клиенты уже стоят в очереди Платформа ИИ должна быть доступна для бизнес-партнеров в течение этого года. Nvidia прямо упоминает облачных провайдеров, таких как AWS, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure, которые, что неудивительно, проявляют интерес к архитектуре Blackwell. Как объясняет Хуанг, с Blackwell Nvidia ожидает «самый успешный запуск в истории компании».
