AMD Instinct MI300X — это настоящий ускоритель искусственного интеллекта. Он основан на архитектуре CDNA компании третьего поколения и передовых 5-нм и 6-нм процессах TSMC и имеет 19 456 потоковых процессоров, 192 ГБ памяти HBM3, 304 вычислительных блока, 1216 матричных ядер и Расчетная тепловая мощность (TDP) 750 Вт. В одном из первых тестов производительности он полностью уничтожил RTX 4090 от Nvidia.
Вультрведущая платформа частных облачных вычислений, объявила о планах по интеграции высокопроизводительного оборудования AMD в свою масштабируемую облачную инфраструктуру. Цель состоит в том, чтобы более эффективно управлять рабочими нагрузками с ускорением на графическом процессоре и обеспечивать бесперебойную работу как в центрах обработки данных, так и в периферийных вычислениях.
«Инновации процветают в открытой экосистеме», — сказал Джей Джей Кардуэлл, генеральный директор Vultr. «Будущее корпоративных рабочих нагрузок ИИ лежит в открытых средах, которые обеспечивают гибкость, масштабируемость и безопасность. Ускорители AMD предлагают нашим клиентам беспрецедентное соотношение цены и качества. Баланс между высокими требованиями к хранению и низким энергопотреблением способствует усилиям по устойчивому развитию и дает нашим клиентам возможность эффективно стимулировать инновации и рост с помощью искусственного интеллекта».
Kubernetes с графическим ускорением
Цель сотрудничества Vultr с AMD — предоставить компаниям доступ к среде разработки искусственного интеллекта мирового класса. Архитектура AMD в сочетании с платформой Vultr позволит компаниям работать с предварительно обученными моделями с открытым исходным кодом, упрощая разработку проектов искусственного интеллекта.
«Мы гордимся нашим тесным сотрудничеством с Vultr, поскольку их облачная платформа предназначена для управления мощными задачами обучения искусственного интеллекта и вывода, а также обеспечивает повышение общей эффективности», — сказал Негин Оливер, корпоративный вице-президент по развитию бизнеса подразделения графических процессоров для центров обработки данных AMD.
«Благодаря внедрению ускорителей AMD Instinct MI300X и открытого программного обеспечения ROCm для этих последних развертываний клиенты Vultr получат выгоду от действительно оптимизированной системы, отвечающей за управление различными рабочими нагрузками с интенсивным использованием искусственного интеллекта».
Это партнерство также оптимизирует инфраструктуру Vultr для кластеров Kubernetes с графическим ускорением, которые могут обрабатывать сложные рабочие нагрузки по всему миру. Vultr не раскрыл точное количество заказанных единиц Instinct MI300X, но лишь сообщил, что первая партия исчисляется «тысячами».