Уникальная вычислительная платформа D-Matrix, известная как Corsair C8, пользуется большим успехом и утверждает, что вытеснила ведущий в отрасли графический процессор Nvidia H100 — по крайней мере, согласно некоторым потрясающим результатам испытаний, опубликованным стартапом.
Corsair C8, специально созданный для генеративных рабочих нагрузок искусственного интеллекта, отличается от графических процессоров тем, что использует уникальную архитектуру DIMC (цифровой компьютер в памяти) d-Matrix.
Результат? Пропускная способность выросла в 9 раз по сравнению с ведущей в отрасли Nvidia H100 и в 27 раз по сравнению с A100.
Корсар С8 мощность
Стартап является одним из самых загруженных в Кремниевой долине и в последнем раунде финансирования привлек 110 миллионов долларов от инвесторов, включая средства Microsoft. Это сопровождалось инвестиционным раундом в размере 44 миллионов долларов от таких финансистов, как Microsoft, SK Hynix и других, в апреле 2022 года.
Флагманская карта Corsair C8 имеет 2048 ядер DIMC со 130 миллиардами транзисторов и 256 ГБ оперативной памяти LPDDR5. Он имеет вычислительную мощность от 2400 до 9600 терафлопс и пропускную способность между чипами 1 ТБ/с.
Эти уникальные карты могут обеспечить до 20 раз более высокую пропускную способность для генеративного вывода на больших языковых моделях (LLMS), до 20 раз меньшую задержку вывода для LLM и до 30 раз экономию средств по сравнению с традиционными графическими процессорами.
Поскольку генеративный искусственный интеллект быстро развивается, отрасль находится в гонке за разработку все более мощного оборудования для будущих поколений технологий.
Ведущими компонентами являются графические процессоры, в частности A100 от Nvidia и более новые модели H100. Однако, по данным d-Matrix, графические процессоры не оптимизированы для вывода LLM и требуют слишком много графических процессоров для обработки рабочих нагрузок ИИ, что приводит к чрезмерному энергопотреблению.
Это связано с тем, что требования к полосе пропускания для выполнения вывода AI означают, что графические процессоры проводят много времени в режиме ожидания, ожидая поступления данных из DRAM. Перемещение данных из DRAM также означает более высокое энергопотребление при снижении пропускной способности и увеличении задержки. Это увеличивает потребность в охлаждении.
Решением, по утверждению компании, является собственная архитектура DIMC, которая устраняет многие проблемы, возникающие в графических процессорах. D-Matrix утверждает, что ее решение может снизить затраты в 10–20 раз, а в некоторых случаях и в 60 раз.
Помимо технологии d-Matrix, появляется все больше и больше геймеров, желающих обогнать Nvidia H100. IBM представила новый аналоговый чип AI в августе, который имитирует человеческий мозг и может работать в 14 раз эффективнее.
Больше от TechRadar Pro
