Ученые из Корейского института передовых наук и технологий (KAIST) представили чип искусственного интеллекта, который, по их словам, может соперничать по скорости с графическим процессором Nvidia A100, но имеет меньшие размеры и значительно более низкое энергопотребление. Чип был разработан с использованием 28-нанометрового производственного процесса Samsung — технологии, которая считается относительно старой в быстро развивающемся мире полупроводников.
Команда под руководством профессора Ю Хой-Джуна из Исследовательского центра обработки в памяти KAIST разработала, как говорят, первый в мире чип искусственного интеллекта с «дополнительным трансформатором» (C-трансформатор). Эта нейроморфная вычислительная система имитирует структуру и функционирование человеческого мозга, используя модель глубокого обучения, обычно используемую в визуальных вычислениях.
«Нейроморфные вычисления — это технология, которую не смогли реализовать даже такие компании, как IBM и Intel, и мы гордимся тем, что первыми в мире внедрили в LLM маломощный нейроморфный ускоритель», — сказал Ю.
Вопросы остаются
Эта технология изучает контекст и значение, отслеживая взаимосвязи внутри данных, например слов в предложении. Это ключевая технология для генеративных сервисов искусственного интеллекта, таких как ChatGPT.
Во время демонстрации в штаб-квартире Министерства ИКТ член команды Ким Сан Ёп представил возможности чипа. На ноутбуке, оснащенном чипом, он выполнял такие задачи, как сеансы вопросов и ответов, обобщение предложений и переводы, используя LLM GPT-2 от OpenAI. Задачи выполнялись как минимум в три раза быстрее, а в некоторых случаях и в девять раз быстрее, чем при запуске GPT-2 на ноутбуке, подключенном к Интернету.
Реализация LLM в задачах генеративного искусственного интеллекта обычно требует большого количества графических процессоров и 250 Вт мощности, но команда утверждает, что их полупроводник использует только 1/625 мощности графического процессора Nvidia для тех же задач. Кроме того, поскольку его размер составляет всего 1/41 и размеры всего 4,5 x 4,5 мм, его в конечном итоге можно будет использовать в таких устройствах, как сотовые телефоны.
Однако еще неизвестно, сможет ли чип выполнить свои обещания в реальных приложениях. Как Оборудование Тома сообщает: «Хотя нам сказали, что чип KAIST C-Transformer может выполнять те же задачи обработки LLM, что и один из мощных графических процессоров Nvidia A100, мы не предоставили никаких прямых сравнительных показателей производительности ни в одном из материалов для прессы или конференций». значительная статистика бросается в глаза своим отсутствием, и циник, вероятно, заподозрит, что сравнение производительности оказывает C-Transformer плохую услугу».
Больше от TechRadar Pro
