Нови стандарти? Току-що показаното на GTC ще бъде изтръгнато от ръцете на Nvidia

, която обещава да постави нови стандарти.

Както подходящо обясни главният изпълнителен директор на Nvidia Дженсън Хуанг, това има за цел да възвести „нова ера на генеративния изкуствен интелект“. Начело на това е чипът B200, който заменя предишните флагмани H100 и GH100 от поколението Hopper

Впечатляващите технически спецификации (вж. по-долу) предполагат, че големи клиенти като Amazon и Microsoft със съответното търсене и бюджет ще се наредят на опашка в Nvidia, за да получат възможно най-много от тези чипове.

Съдържание, генерирано отKI

Най-важните неща накратко

• Nvidia представя новата архитектура Blackwell за генеративен изкуствен интелект на GTC 2024.
  Чипът B200 замества флагманите H100 и GH100 и предлага подобрена производителност и енергийна ефективност.
  Графичният процесор е базиран на 4nm производствен процес и има 208 милиарда транзистора.
  Суперчипът GB200 съчетава процесори Grace, графични процесори Blackwell и предлага изключително висока изчислителна мощност.

Технически данни за Nvidia B200

Графичният процесор е разработен на базата на производствения процес 4NP – специален 4 nm производствен процес, разработен за Blackwell от тайванския производител на чипове TSMC.

Самият B200 е с дизайн с две платки. Двата вградени чипа комуникират чрез връзка slide-to-die със скорост до 10 TByte в секунда и следователно не би трябвало да имат недостатъци в сравнение с процеса MCM (Multi Chip Module), който се използва предимно от AMD.

В картата B200 има общо 208 милиарда транзистора

Според Nvidia теоретичната изчислителна мощност е следната:

• FP8

  : до 20 PetaFLOPS
  

  FP16

  : до 10 PetaFLOPS
  

  FP32

  : до 5 PetaFLOPS
  

  Според Хуанг това би трябвало да доведе до около четири пъти по-висока производителност за обучение на изкуствен интелект и 30 пъти по-висока производителност за изводи на изкуствен интелект. Същевременно енергийната ефективност трябва да се подобри 25 пъти.

  По отношение на паметта Nvidia B200 работи със 192 GByte HBM3e памет, като пропускателната способност трябва да достигне до 8 TByte/s.

  „Grace Blackwell“ като нов суперчип

  Новият чип е в основата и на суперчипа „Grace Blackwell“, наречен GB200, който ще се използва предимно в собствения компютър NVL72 на Nvidia и в персонализирани решения.

  В съответствие с името си, GB200 Grace Blackwell е хибридно решение, състоящо се от процесор Grace със 72 ядра Neoverse V2 на производителя Arm и два от показаните графични чипа B200 – така че един чип GB200 има четири матрици в това отношение.

  В гореспоменатия компютър NVL72 се използват 36 процесора Grace заедно със 72 графични процесора Blackwell (и съответно 144 матрици Blackwell), което води до следните безумни технически данни:

  • Процесор

    : 2 592 ядра ARM Neoverse V2
    

    Памет

    : До 17 TByte LPDDR5X RAM
    

    72 графични процесора Blackwell

    с 13,5 TByte HBM3e памет
    

    ФП4 изчислителна мощност

    : до 1 440 PetaFLOPS
    

    FP8 изчислителна мощност

    : до 720 PetaFLOPS
    

    FP16 изчислителна мощност

    : до 360 PetaFLOPS
    

    Благодарение на NVLink, която обещава до 130 TByte в секунда пропускателна способност, суперкомпютърът NVL72 трябва да се държи като един огромен графичен процесор

    Общо до 576 графични процесора могат да бъдат свързани в такъв домейн на NVLink – според Хуанг общата изчислителна мощност трябва да е достатъчна за обработка на големи езикови модели (LLM) с трилиони параметри.

    Предполагаемата консумация на енергия е съответно висока: твърди се, че един суперчип GB200 изисква до 2700 вата.

    Първите бизнес клиенти вече се редят на опашка Платформата за изкуствен интелект трябва да бъде достъпна за бизнес партньори през годината. Nvidia изрично споменава доставчиците на облачни услуги като AWS, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure, които без изненада проявяват интерес към архитектурата Blackwell. Както обяснява Хуанг, Nvidia е на прага на „най-успешния старт в историята на компанията“ с Blackwell.