Усилия Instagram по маркировке контента, созданного искусственным интеллектом

Искусственный интеллект (ИИ) играет все более важную роль и разрушает многие рынки. В частности, платформы социальных сетей внедрили инструменты ИИ, чтобы лучше обслуживать своих пользователей. Instagram, одна из самых популярных социальных сетей, это в настоящее время разрабатываются новые предупреждения для маркировки сообщений, созданных с помощью искусственного интеллекта.. Цель этого изменения — стать более открытыми и честными в отношении использования ИИ в производстве материалов, которые потребляют люди.

Чтобы информировать своих пользователей об использовании искусственного интеллекта (ИИ) при создании контента, Instagram в настоящее время работает над системой маркировки. Поделившись снимком экрана из приложения Instagram, исследователь приложения Алессандро Палуцци показывает страницу с уведомлением: «создатель или Мета сказали, что этот контент был создан или отредактирован с помощью ИИ». В этом предупреждении подчеркивается, что рассматриваемый контент был «сгенерирован мета-ИИ». Статья продолжается кратким объяснением генеративного ИИ и некоторыми советами по выявлению статей, в которых используется ИИ.

Meta, материнская компания Instagram, и другие крупные игроки на рынке ИИ, такие как Google, Microsoft и OpenAI, недавно взятые на себя обязательства которые согласуются с введением этой системы маркировки. Эти обязательства были разработаны в тандеме с Белым домом и направлены на обеспечение этического роста ИИ. Некоторыми примерами этих усилий являются финансирование исследований по кибербезопасности и дискриминации и создание системы водяных знаков для оповещения аудитории о наличии контента, созданного ИИ.

Поскольку фраза «Мета сказала» появляется на этикетке, можно с уверенностью предположить, что техническая компания Meta будет активно применять уведомление в некоторых случаях, а не полагаться исключительно на раскрытие информации пользователем, хотя точный уровень автоматизации в системе маркировки Instagram до сих пор неизвестен. Представитель Meta отказался комментировать уведомление, но эта новая функция демонстрирует приверженность платформы открытости и ответственности в отношении контента, созданного ИИ.

Обеспокоенность по поводу потенциального распространения дезинформации были подняты в свете появления контента, созданного ИИ. Хотя это все еще находится в зачаточном состоянии, нам напоминают о возможных последствиях такие события, как вирусное изображение Папы Франциска в раздутом дутом пиджаке в начале этого года. Легкость, с которой ИИ можно использовать для создания и распространения вводящей в заблуждение или вредоносной информации, была подчеркнута этим изображением, которое позже было опровергнуто. Это опасно не только в тривиальных контекстах вроде куртки папы, но и в производство дипфейков в виде спутниковых снимков или политической фотографии.

В последнее время Meta добилась успехов в улучшении своих возможностей искусственного интеллекта (ИИ), в том числе открытие исходного кода своей большой языковой модели LLaMA 2. Функции генеративного ИИ, доступные широкой публике для таких сервисов, как Instagram, все еще находятся в разработке. Несмотря на это, начали появляться свидетельства разрабатываемых функций. Марк Цукерберг, генеральный директор Meta, сообщил сотрудникам на всеобщем собрании в июне, что компания разрабатывает такие функции, как текстовые подсказки для редактирования фотографий для Instagram Stories. Алессандро Палуцци, исследователь приложений, также нашел доказательства AI-кисть функция для Instagram, которая позволит пользователям редактировать отдельные пиксели на фотографиях. Кроме того, The Financial Times сообщила, что уже в следующем месяце Meta может добавить функцию «персоны» в свои чат-боты с искусственным интеллектом.

Другой лидер отрасли в области ИИ, Google, осознал ценность информирования потребителей о контенте, созданном с помощью ИИ. «Об этом образе» функция поиска изображений компании скоро будет выпущена, как объявила компания. Этим летом, когда она появится, новая функция упростит определение того, является ли изображение продуктом искусственного интеллекта или нет. Эта функция обеспечивает ценный контекст и понимание подлинности изображения, показывая первое место, где Google проиндексировал его.

Технологическая индустрия в целом начинает осознавать важность прозрачности и подотчетности, о чем свидетельствуют Instagram и Google. усилия по маркировке и идентификации контента, созданного ИИ. Пользователям необходимо знать, когда и как ИИ используется при создании контента по мере того, как ИИ развивается и все больше интегрируется в нашу повседневную жизнь. Предоставляя четкие описания, эти системы маркировки помогают пользователям делать осознанный выбор в отношении контента, с которым они взаимодействуют.

Решение Instagram маркировать контент, созданный ИИ, — это положительный шаг к большей прозрачности и подотчетности в эпоху, когда технологии ИИ все больше формируют наш цифровой опыт. Цель Instagram — дать пользователям больше свободы действий в отношении контента, который они потребляют, уведомляя их, когда ИИ использовался для создания этого контента. Вместе это изменение и работа Google по идентификации изображений, созданных ИИ, указывают на растущее осознание необходимости открытости в эпоху ИИ. Платформы и предприятия должны уделять первоочередное внимание этичному и ответственному использованию ИИ по мере развития этих технологий, чтобы сохранить доверие пользователей и сделать Интернет более безопасным местом для всех.

Впервые сообщили о Грань

Часто задаваемые вопросы

Какова цель Instagram при разработке новой системы маркировки?

Цель Instagram с новой системой маркировки — быть более открытым и честным в отношении использования искусственного интеллекта (ИИ) при производстве контента на своей платформе. Система маркировки сообщит пользователям, когда ИИ использовался при создании или редактировании публикации.

Кто разрабатывает систему маркировки контента, созданного искусственным интеллектом, в Instagram?

Материнская компания Instagram, Meta, разрабатывает систему маркировки контента, созданного искусственным интеллектом, на платформе.

Что будет написано на этикетке контента, созданного ИИ?

Метка контента, созданного ИИ, будет гласить: «Создатель или Мета сказали, что этот контент был создан или отредактирован с помощью ИИ». В нем подчеркивается, что контент был «сгенерирован мета-ИИ».

Почему важно внедрение системы маркировки?

Внедрение системы маркировки важно для устранения опасений по поводу потенциального распространения дезинформации и дипфейков через контент, созданный ИИ. Он направлен на то, чтобы предоставить пользователям больше контекста и прозрачности в отношении контента, который они потребляют.

Каковы некоторые примеры усилий, предпринятых крупными игроками в области ИИ в отношении этического роста ИИ?

Крупные игроки в области искусственного интеллекта, такие как Meta, Google, Microsoft и OpenAI, в партнерстве с Белым домом взяли на себя обязательства по обеспечению этического роста в области искусственного интеллекта. Эти усилия включают финансирование исследований по кибербезопасности и дискриминации, а также создание системы водяных знаков для оповещения аудитории о контенте, созданном ИИ.

Как Meta применяет уведомление к контенту, созданному ИИ?

Хотя точный уровень автоматизации в системе маркировки Instagram неизвестен, наличие фразы «Мета сказала» в метке предполагает, что Мета может в некоторых случаях активно применять уведомление, помимо того, что полагаясь на раскрытие информации пользователем.

Какие еще функции искусственного интеллекта разрабатываются для Instagram?

Meta разрабатывает другие функции искусственного интеллекта для Instagram, в том числе текстовые подсказки для редактирования фотографий для Instagram Stories и функцию «кисть AI», которая позволяет пользователям редактировать отдельные пиксели на фотографиях.

Как Google относится к контенту, созданному искусственным интеллектом?

Google также работает над информированием потребителей о контенте, созданном с помощью ИИ. Он собирается выпустить функцию «Об этом изображении» для поиска изображений, чтобы пользователям было проще определить, является ли изображение продуктом искусственного интеллекта или нет.

Почему прозрачность важна в эпоху ИИ?

Прозрачность имеет решающее значение в эпоху ИИ, чтобы дать пользователям больше свободы действий в отношении контента, с которым они взаимодействуют, и помочь им сделать осознанный выбор в отношении информации, которую они потребляют. Он укрепляет доверие и обеспечивает ответственное использование технологий искусственного интеллекта.

Каково более широкое влияние решения Instagram маркировать контент, созданный ИИ?

Решение Instagram маркировать контент, созданный ИИ, — это положительный шаг к большей прозрачности и подотчетности при использовании технологий ИИ. Это отражает растущее осознание в технологической отрасли необходимости открытости и ответственности в эпоху ИИ для создания более безопасной онлайн-среды для всех.

Избранное изображение предоставлено: Unsplash