Чип IBM NorthPole, разработка которого длилась почти десять лет, набирает силу и достигла нового рубежа: исследователи опубликовали фантастические результаты сравнительного тестирования в журнале Science.
12-нм чип, основанный на архитектуре TrueNorth, в 25 раз более энергоэффективен, чем обычно используемые 12-нм графические процессоры и 14-нм процессоры. Это результат тестирования модели ResNet-50 и измерялся как количество интерпретированных кадров на джоуль мощности.
По данным IBM, NorthPole также намного лучше с точки зрения задержки и пространства, необходимого для вычислений, превосходя все основные архитектуры, включая графические процессоры, реализованные по 4-нм техпроцессу.
Объединение вычислительной мощности с хранилищем
Как добиться таких результатов? Память находится на самом чипе и не подключается отдельно — встроена в каждое из 256 ядер чипа. NorthPole также включает 22 миллиарда транзисторов, а его ядра могут обслуживать 2048 операторов на ядро.
Его архитектура, по мнению компании, устраняет узкое место Фон Неймана, которое связано с задержками, вызванными необходимостью передачи данных между ЦП и оперативной памятью в большинстве систем. Это позволяет ему работать намного быстрее, чем лучшие графические процессоры на рынке, включая лучшие видеокарты Nvidia, ориентированные на искусственный интеллект.
«С архитектурной точки зрения NorthPole стирает грань между вычислениями и хранилищем», — сказал Дхармендра Модха из IBM Research. «На уровне отдельного ядра NorthPole выглядит как память, расположенная рядом с компьютером, а снаружи чипа, на уровне ввода-вывода, он выглядит как активная память».
AMD также приняла концепцию объединения мощности хранения и обработки данных в одном компоненте. Основываясь на теме процессора в памяти (PIM), в прошлом месяце Xilinx представила свою карту Virtex XCVU7P, которая оснащена восемью модулями Accelerator-in-Memory (AiM).
IBM, которая добавляет память к каждому вычислительному ядру своего чипа NorthPole, считает этот компонент идеальным для новых вариантов использования ИИ, включая приложения, связанные с компьютерным зрением. Он также был протестирован на обработку естественного языка и распознавание речи. NorthPole также подходит для периферийных приложений, которым необходимо обрабатывать большие объемы данных в режиме реального времени.
Больше от TechRadar Pro
