- Около 100 000 человек посмотрели фейковую прямую трансляцию и поверили, что она настоящая.
- Алгоритм YouTube спровоцировал мошеннический инцидент через проверенную трансляцию Nvidia
- Зрителям было предложено отсканировать QR-код, чтобы получить подарок в виде криптовалюты.
Ярким напоминанием о том, как легко могут распространяться цифровые манипуляции, стал фальшивый программный доклад Nvidia GTC, в котором представлена созданная искусственным интеллектом версия Дженсена Хуанга, привлекшая на YouTube почти 100 000 зрителей.
Мошенническая прямая трансляция продвигала предполагаемое «мероприятие по массовому внедрению криптовалют» и была организована случайным каналом Offxbeatz.
Однако оно появилось под названием «Nvidia Live», что сделало его официальным для ничего не подозревающих пользователей.
Как фейковый доклад обогнал настоящий
Впервые обнаружен технологическим журналистом Дилан МартинНастоящий доклад Nvidia GTC DC только начался, когда фейковая трансляция оказалась в верхней части результатов поиска YouTube.
Когда Хуан начал выступать на законном мероприятии, его смотрели всего около 12 000 человек по сравнению с почти 95 000, которые смотрели вымышленную трансляцию.
Созданный искусственным интеллектом «Дженсен» приветствовал аудиторию и пообещал сделать эксклюзивное объявление о криптовалютах в соответствии с предполагаемой «миссией Nvidia по ускорению человеческого прогресса».
Далее последовал сценарий, восхваляющий графические процессоры Nvidia за поддержку сетей блокчейнов и цифровых платежей.
Вся установка завершилась QR-кодом, приглашающим зрителей принять участие в схеме распространения криптовалюты, хрестоматийном примере финансового онлайн-мошенничества.
Несмотря на умную презентацию, несколько признаков сделали обман довольно очевидным.
Языковые модели дипфейка были несколько неестественными, а преувеличенные заявления о внедрении криптовалюты должны были вызвать подозрения у внимательных наблюдателей.
Но десятки тысяч людей продолжали смотреть, показывая, как легко сильные изображения могут преодолеть элементарный скептицизм.
YouTube в конечном итоге удалил трансляцию, но ее краткий успех показывает, как алгоритмическая реклама может выявить мошеннический контент за пределами проверенных источников.
Видео, описанное как результат современных трюков искусственного интеллекта, было достаточно убедительным, чтобы ввести в заблуждение тысячи зрителей, искавших это событие.
Это показывает, как технология дипфейков обогнала существующие системы модерации на многих платформах.
Без более строгих методов проверки такие синтетические подделки, вероятно, станут более распространенными.
Традиционные меры кибербезопасности, такие как антивирусное программное обеспечение и брандмауэры, по-прежнему имеют решающее значение для защиты на уровне устройства.
К сожалению, они мало защищают от крупномасштабных манипуляций, основанных на социальной инженерии и обмане в реальном времени.
Поэтому платформам необходимо инвестировать в более совершенные инструменты проверки личности, которые смогут аутентифицировать прямые трансляции перед их публикацией.
Помимо ответственности за платформу, пользователям также следует быть более скептичными при участии в онлайн-мероприятиях, особенно тех, которые связаны с транзакциями с криптовалютой.
На момент написания нет никаких доказательств того, что кто-то потерял деньги через систему.
Тем не менее, инцидент показывает, что большое количество зрителей не является гарантией подлинности.
Следите за TechRadar в Новостях Google. И Добавьте нас в качестве предпочтительного источника чтобы получать новости, обзоры и мнения наших экспертов в своих лентах. Обязательно нажмите кнопку «Подписаться»!
И ты, конечно, тоже можешь Следите за TechRadar в TikTok за новостями, обзорами, распаковками в видео-форме и получайте от нас регулярные обновления WhatsApp к.
