LinkedIn разработала новый детектор изображений с искусственным интеллектом, который, как утверждается, способен обнаруживать 99,6% поддельных изображений профилей с 1% ложноположительных результатов. По неофициальным данным, их новый детектор действительно работает.
Содержание
Поддельные профили LinkedIn
Есть много причин, по которым люди создают поддельные профили LinkedIn.
Для некоторых членов сообщества аффилированного поискового маркетинга одной из причин создания фальшивых профилей является представление о том, что Google будет доверять сайту, если у авторов статей есть ссылки на профиль LinkedIn в их биографиях авторов.
Эта идея проистекает из поддержки Google того, что контент должен иметь то, что известно как EEAT, Опыт, Экспертиза, Авторитетность и Надежность.
Для других мотивация состоит в том, чтобы создать более надежный веб-сайт для посетителей их веб-сайтов.
Это не означает, что я оправдываю эти практики, я их не одобряю.
Это просто для того, чтобы объяснить, что практика происходит и почему это происходит.
Появление возможности создавать изображения профилей с помощью ИИ упростило создание поддельных профилей, что экспоненциально усугубило и без того огромную проблему.
Сообщения о поддельных профилях LinkedIn опубликованный в 2022 году, отметил, что LinkedIn обнаружил и удалил 21 миллион поддельных учетных записей в первой половине 2022 года.
Неподтвержденные данные, которыми поделился партнер по маркетингу, который развернул поддельные профили LinkedIn, подтверждают, что детектор изображений с искусственным интеллектом LinkedIn значительно улучшил их способность обнаруживать поддельные учетные записи.
Согласно LinkedIn:
«Мы постоянно работаем над улучшением и повышением эффективности нашей защиты от злоупотреблений, чтобы защитить опыт наших участников и клиентов. И в рамках нашей текущей работы мы сотрудничаем с академическими кругами, чтобы быть на шаг впереди новых видов злоупотреблений, связанных с поддельными учетными записями, которые используют быстро развивающиеся технологии, такие как генеративный ИИ».
Поддельные аккаунты трудно обнаружить
LinkedIn постоянно обновляет свои системы для обнаружения нескольких видов нежелательной активности, таких как поддельные профили, захват учетных записей и нарушения политики в отношении контента.
Внедрение изображений, сгенерированных искусственным интеллектом, сделало почти невозможным обнаружение поддельных изображений, если вы не знаете, что искать.
LinkedIn идентифицирует «артефакты», которые являются отличительной чертой поддельных изображений профиля AI.
Большинство людей не знают, как распознать изображения ИИ, поэтому людям легко принять фальшивую учетную запись за настоящую.
LinkedIn поделился:
«С появлением синтетических медиа, созданных искусственным интеллектом, и медиа, преобразующих текст в изображение, поддельные профили стали более изощренными.
И мы обнаружили, что большинство участников, как правило, не могут визуально отличить настоящие лица от искусственно сгенерированных…»
Как LinkedIn улавливает контент, созданный искусственным интеллектом
Характерной чертой искусственно созданных изображений является то, что все они имеют схожие шаблоны, которые LinkedIn называет структурными различиями.
Реальные изображения не имеют общих структурных компонентов.
LinkedIn поделился примером композиции из 400 искусственных изображений и 400 реальных изображений.
Состав поддельных изображений показывает, что области вокруг глаз и носа, как правило, очень похожи.
Композиция реальных изображений не имеет ничего общего с другими изображениями, поэтому композиция получается размытой.
Результаты их исследований впечатляют.
LinkedIn делится:
«Истинный положительный показатель (TPR) — это процент синтетических фотографий, которые правильно классифицируются как синтетические.
Показатель ложных срабатываний (FPR) — это процент реальных фотографий, которые ошибочно классифицируются как синтетические.
Наш подход способен обнаруживать 99,6% (TPR) синтетических лиц StyleGAN, StyleGAN2 и StyleGAN3, при этом только 1% (FPR) реальных фотографий профиля LinkedIn неправильно классифицируется как синтетические.
Для тестовых результатов в нашей исследовательской работе мы выбрали целевое значение FPR 1%, потому что для реальных приложений в крупной профессиональной сети важно, чтобы модели обнаружения изображений, созданные ИИ, улавливали большую часть синтетических изображений, и лишь изредка классифицируя реальный образ как синтетический».
Насколько эффективен LinkedIn AI Detector в реальном мире?
Партнер по маркетингу с поддельными профилями LinkedIn поделился, что LinkedIn смог поймать 100% их поддельных профилей LinkedIn.
Они поделились со мной своим опытом:
«Как специалисту по аффилированному маркетингу, наличие профилей LinkedIn для моего поддельного персонажа было отличным способом завоевать доверие моих авторов.
Это было особенно полезно для построения ссылок HARO, поскольку репортеры, как правило, чаще ссылаются на сайты с людьми, имеющими профиль в LinkedIn.
За последние несколько месяцев 90% моих профилей были заблокированы LinkedIn.
К сожалению, теперь мне нужно найти другой способ повысить доверие к моим авторам и заставить их выглядеть законными».
LinkedIn продолжает совершенствовать свою способность выявлять поддельные профили. Возможность создать поддельный профиль стала еще сложнее.
Читайте исходное объявление:
Новые подходы к обнаружению фотографий профиля, созданных искусственным интеллектом
Избранное изображение Shutterstock/Meilun
