Както се очакваше, Nvidia представи новата архитектура Blackwell на GTC 2024. С чипа B200 и платформата GB200 производителят навлиза в нови сфери
Както се очакваше, Nvidia представи новата архитектура Blackwell на провеждащата се в понеделник вечерGTC 2024 (GPU Technology Conference)и обеща да постави нови стандарти.
Както подходящо обясни главният изпълнителен директор на Nvidia Дженсън Хуанг, това има за цел да възвести „нова ера на генеративния изкуствен интелект“. Начело на това е чипът B200, който заменя предишните флагмани H100 и GH100 от поколението Hopper
Впечатляващите технически спецификации (вж. по-долу) предполагат, че големи клиенти като Amazon и Microsoft със съответното търсене и бюджет ще се наредят на опашка в Nvidia, за да получат възможно най-много от тези чипове.
Най-важните неща накратко
- Nvidia представя новата архитектура Blackwell за генеративен изкуствен интелект на GTC 2024.
- Чипът B200 замества флагманите H100 и GH100 и предлага подобрена производителност и енергийна ефективност.
- Графичният процесор е базиран на 4nm производствен процес и има 208 милиарда транзистора.
- Суперчипът GB200 съчетава процесори Grace, графични процесори Blackwell и предлага изключително висока изчислителна мощност.
Технически данни за Nvidia B200
Графичният процесор е разработен на базата на производствения процес 4NP – специален 4 nm производствен процес, разработен за Blackwell от тайванския производител на чипове TSMC.
Самият B200 е с дизайн с две платки. Двата вградени чипа комуникират чрез връзка slide-to-die със скорост до 10 TByte в секунда и следователно не би трябвало да имат недостатъци в сравнение с процеса MCM (Multi Chip Module), който се използва предимно от AMD.
В картата B200 има общо 208 милиарда транзистора Според Nvidia теоретичната изчислителна мощност е следната:
- FP8: до 20 PetaFLOPS
- FP16: до 10 PetaFLOPS
- FP32: до 5 PetaFLOPS
Според Хуанг това би трябвало да доведе до около четири пъти по-висока производителност при обучението на ИИ и 30 пъти по-висока производителност при изводите на ИИ. Същевременно енергийната ефективност трябва да се подобри 25 пъти.
По отношение на паметта Nvidia B200 работи със 192 GByte HBM3e памет, като пропускателната способност трябва да достигне до 8 TByte/s.
„Grace Blackwell“ като нов суперчип
Новият чип е в основата и на суперчипа „Grace Blackwell“, наречен GB200, който ще се използва предимно в собствения компютър NVL72 на Nvidia и в персонализирани решения.
В съответствие с името си, GB200 Grace Blackwell е хибридно решение, състоящо се от процесор Grace със 72 ядра Neoverse V2 на производителя Arm и два от показаните графични чипа B200 – така че един чип GB200 има четири матрици в това отношение.
В гореспоменатия компютър NVL72 се използват 36 процесора Grace заедно със 72 графични процесора Blackwell (и съответно 144 матрици Blackwell), което води до следните безумни технически данни:
- Процесор: 2 592 ядра ARM Neoverse V2
- Памет: До 17 TByte LPDDR5X RAM
- 72 графични процесора Blackwell с 13,5 TByte HBM3e памет
- ФП4 изчислителна мощност: до 1 440 PetaFLOPS
- FP8 изчислителна мощност: до 720 PetaFLOPS
- FP16 изчислителна мощност: до 360 PetaFLOPS
Благодарение на NVLink, която обещава до 130 TByte в секунда пропускателна способност, суперкомпютърът NVL72 трябва да се държи като един огромен графичен процесор
Общо до 576 графични процесора могат да бъдат свързани в такъв домейн на NVLink – според Хуанг общата изчислителна мощност трябва да е достатъчна за обработка на големи езикови модели (LLM) с трилиони параметри.
Предполагаемата консумация на енергия е съответно висока: твърди се, че един суперчип GB200 изисква до 2700 вата.
Първите бизнес клиенти вече се редят на опашка Платформата за изкуствен интелект трябва да бъде достъпна за бизнес партньори през годината. Nvidia изрично споменава доставчиците на облачни услуги като AWS, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure, които без изненада проявяват интерес към архитектурата Blackwell. Както обяснява Хуанг, Nvidia е изправена пред „най-успешния старт в историята на компанията“ с Blackwell.
