- 3D-дизайн HBM-on-GPU обеспечивает рекордную плотность вычислений для требовательных рабочих нагрузок искусственного интеллекта.
- Пиковая температура графического процессора превысила 140°C без применения мер по снижению температуры.
- Уменьшение вдвое тактовой частоты графического процессора снизило температуру, но замедлило обучение ИИ на 28%.
Компания Imec представила исследование 3D-проектирования HBM-on-GPU с целью увеличения плотности вычислений для ресурсоемких рабочих нагрузок искусственного интеллекта на Международной конференции IEEE по электронным устройствам (IEDM) 2025 года.
Подход совместной оптимизации технологии тепловой системы размещает четыре стека памяти с высокой пропускной способностью непосредственно над графическим процессором через межсоединения microbump.
Каждый стек состоит из двенадцати микросхем DRAM, соединенных гибридным способом, а охлаждение осуществляется с помощью HBM.
Попытки снижения температуры и снижение производительности
В решении применяются карты производительности, полученные на основе отраслевых рабочих нагрузок, чтобы проверить, как конфигурация реагирует на реалистичные условия обучения ИИ.
Такое 3D-устройство обещает скачок в плотности вычислений и объёме памяти на один графический процессор.
Он также обеспечивает более высокую пропускную способность памяти графического процессора по сравнению с интеграцией 2.5D, где стеки HBM размещаются на кремниевом переходнике вокруг графического процессора.
Однако тепловое моделирование выявило серьезные проблемы при проектировании 3D HBM на графическом процессоре.
Без исправления пиковая температура графического процессора достигла 141,7°C, что значительно превышает эксплуатационные пределы, тогда как базовый уровень 2.5D достиг пика 69,1°C при тех же условиях охлаждения.
Компания Imec изучила стратегии технологического уровня, такие как объединение стеков HBM и термическая оптимизация полупроводников.
Стратегии на уровне системы включали двустороннее охлаждение и масштабирование частоты графического процессора.
Снижение тактовой частоты графического процессора на 50% снизило пиковые температуры до уровня ниже 100°C, но это изменение замедлило рабочую нагрузку по обучению ИИ.
Несмотря на эти ограничения, Imec утверждает, что 3D-структура может обеспечить более высокую плотность вычислений и производительность, чем эталонный 2,5D-проект.
«Благодаря уменьшению вдвое частоты ядра графического процессора пиковая температура была снижена со 120 °C до уровня ниже 100 °C, что позволило достичь важной цели для операций с памятью. Однако этот шаг приводит к снижению рабочей нагрузки на 28%…», — сказал Джеймс Майерс, директор программы системных технологий в Imec.
«…в целом пакет превосходит базовый вариант 2.5D благодаря более высокой плотности пропускной способности, обеспечиваемой 3D-конфигурацией. В настоящее время мы используем этот подход для изучения других конфигураций графического процессора и HBM…»
Организация предполагает, что этот подход может обеспечить термоустойчивое оборудование. Инструменты искусственного интеллекта в плотных центрах обработки данных.
Imec представляет эту работу как часть более широкой попытки связать технологические решения с поведением системы.
Сюда входит программа межтехнологической совместной оптимизации (XTCO), запущенная в 2025 году, которая объединяет подходы STCO и DTCO для согласования технологических планов с задачами масштабирования системы.
В Imec заявили, что XTCO обеспечивает совместное решение проблем критических узких мест в полупроводниковой экосистеме, включая компании, не имеющие собственного производства, и системные компании.
Однако такие технологии, скорее всего, останутся ограниченными специализированными объектами с контролируемыми балансами энергии и тепла.
Над TechPowerUp
Следите за TechRadar в Новостях Google. И Добавьте нас в качестве предпочтительного источника чтобы получать новости, обзоры и мнения наших экспертов в своих лентах. Обязательно нажмите кнопку «Подписаться»!
И ты, конечно, тоже можешь Следите за TechRadar в TikTok за новостями, обзорами, распаковками в видео-форме и получайте от нас регулярные обновления WhatsApp к.
