Недавно компания Nvidia представила свой стоечный суперкомпьютер DGX GB200 NVL72 на выставке Nvidia GTC 2024 и Патрике Кеннеди. Служить дому сделал подборку отличных фотографий, демонстрирующих впечатляющего зверя.
Название DGX GB200 NVL72 расскажет вам многое из того, что вам нужно знать. GB200 представляет собой вычислительную структуру Grace Blackwell GB200, а NVL72 — 72 графических процессора Blackwell, подключенных через NVLink.
Платформа Blackwell содержит 208 миллиардов транзисторов на двух чипах графического процессора. Они соединены в единый унифицированный графический процессор через соединение «чип-чип» со скоростью 10 ТБ/с. Blackwell, выпуск которого запланирован на конец этого года, как сообщается, будет обеспечивать производительность FP4 до 20 петафлопс и будет до 30 раз быстрее, чем Hopper, в задачах вывода искусственного интеллекта.
Силовая нагрузка 120 кВт
Система, устанавливаемая в стойку, включает в себя десять вычислительных узлов верхнего уровня, каждый из которых имеет два порта Infiniband, четыре отсека для дисков E1.S и порты управления. Каждый узел питается от двух процессоров Grace Arm, подключенных к двум графическим процессорам Blackwell. Под этими узлами расположены девять полок NVSwitch с золотыми ручками для легкого снятия.
На задней стороне стойки изображена система питания, предназначенная для подачи питания вслепую через шину, сопла жидкостного охлаждения и разъемы NVLink для каждого компонента. Такая конструкция обеспечивает легкое перемещение для обеспечения правильного слепого сопряжения.
DGX GB200 NVL72 весит 1,36 тонны (3000 фунтов) и потребляет 120 кВт, то есть силовая нагрузка ок. Служить дому указывает, что не все центры обработки данных могут с этим справиться. Поскольку многие из них могут поддерживать только стойки мощностью не более 60 кВт, представляется возможным создание в будущем полустековой системы. В стойке вместо оптики используется медный кабель длиной 2 мили (3,2 км), что позволяет снизить энергопотребление системы на 20 кВт.
Вы можете увидеть остальные фотографии, сделанные Кеннеди на GTC 2024. Здесь.