- Sandisk и SK Hynix предполагают, что вспышка с высокой диапазоной для обработки более крупных моделей искусственного интеллекта
- Вспышка с высокой пропускной способностью может сэкономить гораздо больше данных, чем HBM на основе DRAM для рабочих нагрузок искусственного интеллекта
- Экономия энергии от нерефриканства Нанда может избежать стратегий охлаждения для центров расчета ИИ
Sandisk и SK Hynix подписали соглашение о разработке технологии хранения, которая может изменить способ, которым ускорители искусственного интеллекта могут обрабатывать данные по шкале.
Компании хотят стандартизировать «Flash с высокой полосой пропускной способности» (HBF), альтернативу традиционной ширине высокой диапазоны в графических процессорах искусственного интеллекта.
Концепция основывается на конструкциях упаковки, которые похожи на HBM, в то время как часть стека DRAM заменяет Flash и действует задержкой в отношении повышенной пропускной способности и не солатильности.
Ki Storage Stacks, чтобы справиться с более крупными моделями с более низкими требованиями к электричеству
Этот подход позволяет HBF предоставлять хранилище HBM на основе DRAM примерно с одинаковыми затратами от восьми до шестнадцати раз.
Способность NAND сохранять данные без постоянной производительности также обеспечивает потенциальную экономию энергии, что является все более важным фактором, поскольку вывод AI распространяется в средах со строгими производительностью и пределами охлаждения.
В случае операторов гиперскла, которые выполняют большие модели, изменение может помочь установить как тепловые, так и бюджетные ограничения, которые уже обременяют процессы центра обработки данных.
Этот план соответствует концепции исследования под названием «LLM во вспышке», в которой было описано как Крупные модели могут быть выполнены более эффективно, включив SSD в качестве дополнительной стадии и снимая давление на драму.
HBF по существу интегрирует эту логику в единый пакет с шириной высокой объемов и, возможно, объединяет шкалу памяти самого большого SSD с профилем скорости, необходимым для рабочей нагрузки искусственного интеллекта.
Сандиск представил свой прототип HBF на Flash Speicher Gipdel 2025 с использованием проприетарных бика и методов, связанных с пластинками.
Выборочные модули ожидаются во второй половине 2026 года, причем первое оборудование AI будет проецируется HBF в начале 2027 года.
Не было объявлено никаких конкретных партнерских отношений с продуктом, но позиция SK Hynix в качестве основного поставщика памяти для ведущих производителей чипов ИИ, включая Nvidia, может ускорить принятие, как только стандарты будут завершены.
Этот шаг также происходит потому, что другие производители изучают аналогичные идеи.
Samsung анонсировала уровни хранения Flash-Ki, и продолжает разрабатывать DRAM HBM4, в то время как такие компании, как Nvidia, все еще обязаны делать драматикупные дизайны.
В случае успешного успеха сотрудничество между Sandisk и SK Hynix может создать гетерогенные стеки памяти, в которых сосуществуют DRAM, Flash и другие постоянные типы памяти.
Вы также могли бы понравиться
