- NVIDIA интегрирует DeepSeek-R1 как микросервис NIM
- AWS поддерживает DeepSeek-R1 с акцентом на масштабируемые и недорогие развертывания ИИ
- Microsoft также имеет будущие локальные операционные планы для DeepSeek
После того, как DeepSeek завоевал мир ИИ в шторме за последние несколько недель, теперь он добился значительного прогресса в расширении доступности своих передовых моделей аргументации.
Компания объявила, что ее флагманская модель Deepseek R1 теперь доступна на нескольких платформах, включая Nvidia, AWS и GitHub.
Природа с открытым исходным кодом DeepSeek позволяет разработчикам создавать модели на основе их архитектуры, и во время прессы есть 3374 модели на основе Deepseek, доступные для совместной разработки модели искусственного интеллекта ОбниматьПолем
Nvidia, AWS, GitHub & Azure теперь предлагает DeepSeek
На AWS модели DeepSeek-R1 теперь доступны с помощью пожертвований Amazon, что упрощает интеграцию API и Amazon SageMaker, что обеспечивает расширенную адаптацию и обучение, которые поддерживаются поездом AWS и выводом для оптимизированной эффективности затрат.
AWS также предлагает DeepSeek-R1 Distill, более легкую версию, через Import Model Amazon Domation Custom Import. Это без серверного обеспечения одновременно упрощает управление инфраструктурой масштабируемости.
Nvidia также интегрирована DeepSeek-R1 как микросервис NIMИспользование моторного ускорения архитектуры бункера и трансформатора FP8 для обеспечения высококачественных реакций в режиме реального времени.
Модель, которая содержит 671 миллиарда параметров и длину контекста 128 000, использует самолет тестера для повышения точности.
Он также выигрывает от архитектуры Nvidia Hopper с ускорением трансформаторов FP8 и подключения NVLink. DeepSeek-R1, который проводится в системе HGX H200, может генерировать до 3872 токенов в секунду.
Иметь литейный и GitHub Microsoft Azure Ai и GitHub дальнейшее расширение Диапазон и разработчики DeepSeek предлагают безопасную и масштабируемую платформу для интеграции ИИ в свои рабочие процессы.
Microsoft также внедрила обширные меры безопасности, включая фильтрацию контента и автоматические обзоры. Компания утверждает, что она хотела бы предложить дистиллированные версии DeepSeek-R1 для местного обеспечения на Copilot+ ПК в будущем.
DeepSeek-R1 завоевал мир штормом, предложив мощную, недорогую модель ИИ с расширенными функциями аргументации и свернули популярные модели ИИ, такие как CHATGPT.
Согласно сообщениям, R1 был обучен всего 6 миллионов долларов США, при этом наиболее продвинутые версии примерно на 95% дешевле, чем сопоставимые модели Nvidia и Microsoft.
Вы также можете понравиться
