AMD будет полагаться на достижения в области памяти с высокой пропускной способностью (HBM), чтобы заменить Nvidia на посту лидера отрасли по производству компонентов для генеративных систем искусственного интеллекта.
Развивая тему «Процессор в памяти» (PIM), компания Xilinx, компания AMD, представила свою карту Virtex XCVU7P, где каждая FPGA имеет восемь модулей «Ускоритель в памяти» (AiM). Компания заявила, что представила это устройство на OCP Summit 2023 вместе с устройством хранения данных HBM3E от SK Hynix. Служить дому.
Выполняя вычислительные операции непосредственно в памяти, данные по существу устраняют необходимость перемещения между компонентами в системах, а это означает, что производительность увеличивается, а вся система становится более энергоэффективной. Использование PIM с AiM от SK Hynix привело к снижению задержки сервера в 10 раз, энергопотреблению в 5 раз и снижению стоимости рабочих нагрузок вывода ИИ вдвое.
Последний поворот в продолжающейся гонке вооружений в области искусственного интеллекта
Nvidia и AMD вместе производят большинство лучших графических процессоров, и можно с уверенностью предположить, что усилия по улучшению качества этих компонентов будут ключом к повышению производительности ИИ. Но на самом деле эти компании понимают, что изменение соотношения между вычислительной мощностью и хранилищем дает огромные преимущества в производительности и эффективности.
Nvidia также реализует собственные планы по интеграции технологии HBM в свою линейку графических процессоров, включая A100, H100 и GH200, которые являются одними из лучших видеокарт на рынке. Например, в прошлом месяце компания заключила соглашение с Samsung об интеграции технологии памяти HBM3 в свои графические процессоры и, вероятно, распространит ее на новые устройства HBM3e.
В последние месяцы PIM применяли несколько компаний. Например, в сентябре компания Samsung представила свою технологию Processing Near Memory (PNM). CXL ПНМ Модуль представляет собой карту емкостью 512 ГБ с пропускной способностью до 1,1 ТБ/с.
Это прототип карты HBM PIM, созданный в сотрудничестве с AMD. Добавление такой карты увеличило производительность на 2,6%, одновременно увеличив энергоэффективность на 2,7% по сравнению с существующими ускорителями графического процессора.
Больше от TechRadar Pro
