Qualcomm представила свой AI Hub — обширную библиотеку предварительно оптимизированных моделей искусственного интеллекта, которые можно использовать на устройствах, работающих на платформах Snapdragon и Qualcomm.
Эти модели поддерживают широкий спектр приложений, включая обработку естественного языка, компьютерное зрение и обнаружение аномалий, и предназначены для обеспечения высокой производительности при минимальном энергопотреблении, что является критическим фактором для мобильных и периферийных устройств.
Библиотека AI Hub на данный момент включает более 75 популярных моделей ИИ и генеративного ИИ, включая Whisper, ControlNet, Stable Diffusion и Baichuan 7B. Все модели имеют разные среды выполнения и оптимизированы для использования аппаратного ускорения Qualcomm AI Engine на всех ядрах (NPU, CPU и GPU). По словам Qualcomm, они обеспечат в четыре раза более быстрое время вывода.
Предоставляются документация и учебные пособия.
AI Hub также автоматически выполняет перевод модели из исходной среды в общие среды выполнения. Он работает напрямую с Qualcomm AI Engine Direct SDK и применяет аппаратную оптимизацию. Разработчики могут искать, загружать и интегрировать модели в свои приложения по мере необходимости, экономя время и ресурсы.
AI Hub также предоставляет разработчикам инструменты и ресурсы для настройки этих моделей, и они могут совершенствовать их с помощью Qualcomm Neural Processing SDK и AI Model Efficiency Toolkit, доступных на платформе.
Чтобы использовать AI Hub, разработчикам необходима обученная модель в формате PyTorch, TorchScript, ONNX или TensorFlow Lite и хорошее понимание цели развертывания, которой может быть конкретное устройство (например, Samsung Galaxy S23 Ultra) или ряд устройств. действовать.
Однако AI Hub предназначен не только для опытных разработчиков. Он также служит обучающей платформой и предлагает исчерпывающую документацию и учебные пособия для тех, кто отправляется в мир искусственного интеллекта.
Qualcomm планирует регулярно обновлять AI Hub новыми моделями и поддержкой дополнительных платформ и операционных систем. Разработчики могут войти в систему, чтобы получить доступ к этим моделям на облачных устройствах на базе платформ Qualcomm и получить ранний доступ к новым функциям и моделям искусственного интеллекта.