Nvidia раскрыла подробности о новой сетевой платформе, созданной специально для генеративных рабочих нагрузок ИИ, которая обещает молниеносно быструю работу в сети без потерь.
Новая технология компании Spectrum-X основана на Ethernet-коммутаторе Spectrum 4 и DPU BlueField 3 и обещает прирост производительности и энергоэффективности до 1,7x.
В одном пресс-релизКомпания заявила: «Предоставление сквозных возможностей сокращает время работы массивных моделей генеративного ИИ на основе трансформаторов», что, в свою очередь, позволяет организациям работать и принимать решения быстрее, открывая потенциал для экономии средств.
Спектр-X Ethernet
Старший вице-президент Nvidia Networking Гилад Шейнер сказал: «Spectrum-X — это новый класс сетей Ethernet, который устраняет барьеры для рабочих нагрузок искусственного интеллекта следующего поколения, которые могут преобразовать целые отрасли».
Его ключевой компонент, Ethernet-коммутатор Spectrum 4, способен развивать скорость до 51 Тбит/с. Для потребителей это означает, что сеть 400 Gigabit Ethernet активируется в сочетании с DPU BlueField 3 и оптикой Nvidia LinkX.
Компания хотела дать представление о мощных сетевых возможностях, которые суперкомпьютеры с искусственным интеллектом теперь могут использовать в реальных случаях:
«Nvidia Spectrum-X обеспечивает беспрецедентное масштабирование 256 портов 200 Гбит/с, подключенных через один коммутатор, или 16 000 портов в двухуровневой топологии leaf-spine для поддержки роста и расширения облаков ИИ при сохранении высокого уровня производительности и минимизации сетевых задержек».
В другом месте, во время своей презентации на вступительной речи Computex Expo, генеральный директор Nvidia Дженсен Хуанг поднял микросхему коммутатора Spectrum 4 и поделился подробностями о ее конструкции. По его словам, сто миллиардов транзисторов на микросхеме размером 90 x 90 мм потребляют около 500 Вт.
Nvidia уже тестирует свой Spectrum-X в своем центре обработки данных Israel 1, гипермасштабируемом суперкомпьютере с генеративным искусственным интеллектом, на котором работают серверы Dell PowerEdge XE9680 на базе платформы Nvidia HGX H100 с восемью графическими процессорами.
