ОпенАИ объявлено что компания расширяет доступ к своему новейшему генератору текста в изображения DALL-E 3, позволяя клиентам ChatGPT Plus и Enterprise использовать систему искусственного интеллекта в приложении ChatGPT.
DALL-E 3 AI-генератор изображений
DALL-E 3, впервые представленный в прошлом месяце, использует возможности обработки естественного языка ChatGPT для создания изображений на основе подробных текстовых подсказок, предоставленных пользователями.
Новая система призвана улучшить предыдущую модель DALL-E 2 от OpenAI за счет улучшенной визуальной детализации, более четкого изображения и реагирования на подробные описания.
Microsoft стала первой крупной платформой, публично развернувшей DALL-E 3 посредством интеграции с Bing Search и Bing Chat в прошлом месяце.
Однако некоторый проблемный контент изначально проскользнул через фильтры контента системы, включая изображения спорных сценариев событий 11 сентября.
OpenAI утверждает, что с тех пор усилила меры по снижению безопасности и надзору за DALL-E 3.
OpenAI заявляет в объявлении:
«Мы используем многоуровневую систему безопасности, чтобы ограничить способность DALL·E 3 создавать потенциально опасные изображения, включая контент насилия, контента для взрослых или разжигания ненависти. Проверки безопасности выполняются по запросам пользователей и полученным изображениям, прежде чем они будут доступны пользователям».
Кроме того, компания заявила, что были приняты новые меры для ограничения продукции, имитирующей стили конкретных артистов или общественных деятелей.
Детектор изображений AI
OpenAI разрабатывает внутренний «классификатор происхождения», который может определить, было ли изображение создано DALL-E 3 с точностью более 99%.
Системы генерации текста и изображений, такие как DALL-E, постоянно сталкиваются с проблемами, связанными с воспроизведением контента, защищенного авторским правом, созданием интимных изображений без согласия и сохранением предвзятости.
OpenAI продолжит совершенствовать безопасность DALL-E 3 посредством отзывов пользователей и рекомендаций экспертов.
Заглядывая вперед
Внедрение DALL-E 3 для подписчиков ChatGPT представляет собой значительное расширение общедоступных возможностей создания изображений AI.
Хотя OpenAI заявляет о достижениях в области обеспечения безопасности для этой последней модели, сохраняются риски, связанные с вредным контентом и нарушениями интеллектуальной собственности.
В дальнейшем необходимость общеотраслевого сотрудничества в области этики ИИ и установления разумных правил будет только усиливаться.
Рекомендованное изображение: Бартек Винницки/Shutterstock
