Генерация кода с помощью искусственного интеллекта становится все более мощной и компактной. Стабильность ИИкомпания, известная своими генеративными технологиями ИИ преобразования текста в изображение под названием Stable Diffusion, только что анонсировала свою первую новую модель искусственного интеллекта 2024 года: Stable Code 3B, доступную по подписке. Как подсказывает название, Стабильный код 3B — это модель с 3 миллиардами параметров, ориентированная на завершение кода для разработки программного обеспечения.
Несмотря на 3 миллиарда параметров, Stable Code 3B может работать локально на ноутбуках без выделенных графических процессоров, сохраняя при этом производительность и емкость, конкурентоспособные с более крупными моделями, такими как CodeLLaMA 7B в мета. Стремление к меньшим, более компактным и функциональным моделям — цель, которую Stability AI начала преследовать в конце 2023 года, выпустив такие модели, как СтабильныйLM Зефир 3Б для генерации текста.
Улучшения в стабильном коде 3B
Stability AI внес несколько улучшений в Stable Code с момента его первого выпуска. Помимо предложения новых строк кода, шаблон может заполнять недостающие разделы существующего кода. Эта расширенная функция завершения кода, известная как «Заполните середину(FIM) позволяет эффективно заполнять пробелы в коде.
Чтобы обучить модель, мы оптимизировали размер контекста, используя метод под названием «Вложения вращательного положения(RoPE), который опционально допускает длину контекста до 100 000 токенов. Техника Веревка он также используется другими языковыми моделями, такими как Llama 2 Long от Meta.
Стабильный код 3B Он основан на модели естественного языка. Стабильный LM 3B от Stability AI. Благодаря дополнительному обучению, посвященному данным разработки программного обеспечения, модель приобрела навыки завершения кода, сохраняя при этом свои сильные стороны в общеязыковых задачах. ТО Данные обучения включают репозитории кода, форумы программистов и другие технические источники.. Кроме того, модель была обучена на 18 различных языках программирования, и Stability AI утверждает, что Stable Code 3B демонстрирует лучшую производительность в тестах производительности на нескольких языках.
Конкуренция на рынке инструментов генерации ИИ-кода
Рынок инструментов генерации кода искусственного интеллекта является конкурентным и предлагает несколько вариантов, включая CodeLLaMA 7B в мета, один из самых крупных и популярных. На передней панели моделей с 3 миллиардами параметров есть еще Старкодер, LLMкоторый совместно разрабатывается как проект с открытым исходным кодом при участии IBM, HuggingFace и ServiceNow. Однако Stability AI утверждает, что Stable Code 3B превосходит StarCoder по качеству завершения языков программирования. Python, C++, JavaScript, Java, PHP и Rust.
Stable Code 3B в рамках подписки Stability AI
Stable Code 3B доступен для коммерческого использования в рамках новой подписки Stability AI, о которой впервые было объявлено в декабре. Участники имеют доступ к Stable Code 3B наряду с другими технологиями искусственного интеллекта в предложении продуктов Stability AI, включая инструменты создания изображений Stable Diffusion, StableLM Zephyr 3B для генерации текстового контента, Stable Audio для генерации аудио и Stable Video для генерации видео.
