OpenAI объявила, что ее модели ChatGPT и Whisper теперь доступны в его API, предлагая разработчикам доступ к языку на базе ИИ и возможностям преобразования речи в текст.
Благодаря общесистемной оптимизации OpenAI удалось снизить стоимость ChatGPT на 90% с декабря, и теперь эта экономия передается пользователям API.
OpenAI считает, что лучший способ реализовать весь потенциал ИИ — позволить всем строить с его помощью.
Объявленные сегодня изменения могут привести к многочисленным приложениям, которыми может воспользоваться каждый.
Больше компаний могут использовать язык OpenAI и возможности преобразования речи в текст для разработки приложений нового поколения на базе ChatGPT и Whisper.
Кроме того, OpenAI учла отзывы разработчиков и внесла изменения в условия обслуживания своего API, чтобы они лучше соответствовали их потребностям.
Содержание
ЧатGPT API
OpenAI выпускает новое семейство моделей ChatGPT под названием gpt-3.5-turbo по цене 0,002 доллара за 1 тыс. токенов, что делает его в десять раз дешевле, чем существующие модели GPT-3.5.
Эта модель идеальна для многих случаев использования, не связанных с чатом, и она аналогична продукту ChatGPT.
В то время как модели GPT традиционно используют неструктурированный текст, представленный в виде последовательности токенов, модели ChatGPT используют последовательность сообщений с метаданными.
Однако входные данные отображаются в модели как последовательность токенов, которые модель может использовать.
Модель gpt-3.5-turbo использует новый формат под названием Chat Markup Language (ChatML).
Обновления ChatGPT
OpenAI постоянно совершенствует свои модели ChatGPT и стремится предлагать эти обновления разработчикам.
Те, кто использует модель gpt-3.5-turbo, всегда получат рекомендованную стабильную модель, при этом они смогут выбрать конкретную версию.
OpenAI запускает новую версию под названием gpt-3.5-turbo-0301, которая будет поддерживаться как минимум до 1 июня, а новый стабильный выпуск ожидается в апреле.
Разработчики могут найти обновления на странице моделей для перехода на последнюю версию.
Выделенные экземпляры
OpenAI теперь предлагает выделенные экземпляры для пользователей, которым нужен больший контроль над версиями своих моделей и производительностью системы.
По умолчанию запросы обрабатываются в общей вычислительной инфраструктуре, и пользователи платят за каждый запрос.
Однако при использовании выделенных экземпляров разработчики платят за период времени, чтобы выделить вычислительную инфраструктуру, зарезервированную исключительно для их запросов.
Разработчики имеют полный контроль над нагрузкой экземпляра, возможность включения более длинных ограничений контекста и возможность закреплять моментальный снимок модели.
Выделенные инстансы могут быть рентабельными для разработчиков, которые обрабатывают более 450 млн токенов в день.
шепчущий API
OpenAI представила Whisper, модель преобразования речи в текст, в качестве API с открытым исходным кодом в сентябре 2022 года.
Whisper API получил высокую оценку сообщества разработчиков. Тем не менее, это может быть сложно в эксплуатации.
OpenAI делает модель big-v2 доступной через свой API, предоставляя разработчикам удобный доступ по требованию по цене 0,006 доллара в минуту.
Кроме того, стек обслуживания OpenAI гарантирует более высокую производительность по сравнению с другими сервисами. Whisper API доступен через транскрипцию или конечные точки перевода, которые могут транскрибировать или переводить исходный язык на английский язык.
Фокус разработчиков
OpenAI внесла определенные изменения после получения отзывов разработчиков. Примеры таких изменений включают следующее:
- Неиспользование данных, отправленных через API, для улучшения обслуживания, включая обучение модели, если организация не дает на это согласия.
- Установление 30-дневной политики хранения данных по умолчанию с возможностью более строгого хранения в зависимости от потребностей пользователя.
- Улучшение документации для разработчиков.
- Упрощение условий обслуживания и политики использования.
OpenAI признает, что предоставление надежных услуг необходимо для того, чтобы ИИ приносил пользу всем. С этой целью OpenAI стремится улучшить время безотказной работы в течение следующих нескольких месяцев.
Рекомендуемое изображение: Shaheerrr/Shutterstock
Источник: OpenAI
