- По мнению экспертов по безопасности, количество случаев мошенничества с голосовыми клонами искусственного интеллекта растет.
- Модели искусственного интеллекта с голосовым управлением можно использовать для подражания близким
- Эксперты рекомендуют договариваться о безопасном тарифе с друзьями и семьей
Следующий спам-звонок, который вы получите, может быть не от реального человека, и ваше ухо не заметит разницы. Мошенники используют модели искусственного интеллекта, активируемые голосом, чтобы автоматизировать свои мошеннические схемы и обманывать людей, выдавая себя за реальных звонящих людей, включая членов семьи.
Что такое голосовое мошенничество с использованием ИИ?
Мошеннические звонки не являются чем-то новым, но звонки с использованием искусственного интеллекта представляют собой новую опасную породу. Они используют генеративный искусственный интеллект, чтобы выдавать себя за представителей власти или знаменитостей, но также за друзей и семью.
Внедрение моделей искусственного интеллекта, обученных на человеческих голосах, открыло новую область риска телефонного мошенничества. Эти инструменты, такие как голосовой API OpenAI, поддерживают разговоры в реальном времени между человеком и моделью ИИ. С помощью небольшого количества кода эти модели можно запрограммировать на автоматическое совершение телефонных мошенничеств, побуждая жертв раскрывать конфиденциальную информацию.
Так как же оставаться в безопасности? Что делает угрозу настолько проблематичной, так это не только то, насколько легко и недорого ее развернуть, но и то, насколько убедительными стали голоса ИИ.
В начале этого года OpenAI столкнулась с негативной реакцией из-за голосового варианта Sky, пугающе похожего на Скарлетт Йоханссон, в то время как сэр Дэвид Аттенборо это сделал. описал себя как «глубоко обеспокоенный» голосовым клоном искусственного интеллекта, который был неотличим от его реальной речи.
Всего нескольких секунд звука достаточно, чтобы имитировать голос любимого человека. Это легко могло произойти из видео, опубликованного в социальных сетях.
Даже инструменты борьбы с мошенничеством показывают, насколько размытыми стали границы. Британская сеть O2 недавно запустила Daisy, «бабушку» с искусственным интеллектом, созданную для того, чтобы вовлечь телефонных мошенников в трудоемкий разговор, который, по их мнению, ведется с настоящим пожилым человеком. Это умное использование технологии, но оно также показывает, насколько хорошо ИИ может моделировать взаимодействие людей.
Что беспокоит, так это то, что мошенники могут обучать голоса ИИ, используя очень маленькие аудиосэмплы. По данным компании F-Secure, занимающейся кибербезопасностью, всего нескольких секунд звука достаточно, чтобы имитировать голос любимого человека. Это легко могло произойти из видео, опубликованного в социальных сетях.
Как работает мошенничество с клонированием голоса с помощью искусственного интеллекта
Основная концепция мошенничества с голосовым клонированием аналогична традиционному телефонному мошенничеству: киберпреступники выдают себя за кого-то, чтобы завоевать доверие жертвы, а затем создают ощущение срочности, которое побуждает их раскрыть конфиденциальную информацию или передать деньги мошеннику.
Разница с мошенничеством с голосовыми клонами двоякая. Во-первых, преступники могут автоматизировать процесс с помощью кода, что позволяет им атаковать больше людей быстрее и за меньшие деньги. Во-вторых, они могут подражать не только авторитетам и знаменитостям, но и людям, которых вы знаете напрямую.
Все, что вам нужно, это образец аудио, который обычно берется из онлайн-видео. Затем это анализируется и имитируется моделью ИИ, чтобы ее можно было использовать для мошеннических взаимодействий. Все более распространенный метод предполагает использование модели ИИ, имитирующей члена семьи, просящего деньги в чрезвычайной ситуации.
Эту технологию также можно использовать для имитации голосов знаменитостей, чтобы манипулировать жертвами. Мошенники недавно использовали один Голосовой клон ИИ премьер-министра Квинсленда Стивена Майлзапопытаться совершить инвестиционное мошенничество.
Как защитить себя от голосового мошенничества с использованием ИИ
Соответственно Старлинг БанкЦифровой кредитор, 28% взрослого населения Великобритании говорят, что стали жертвами мошенничества с клонированием голоса с помощью искусственного интеллекта, но только 30% уверены, что знают, как его распознать. Вот почему Старлинг запустила кампанию «Безопасные фразы», которая призывает друзей и родственников договориться о секретной фразе, которую они могут использовать для подтверждения личности друг друга — и это разумная тактика.
TL;DR Как оставаться в безопасности
1. Договоритесь о безопасной цене с друзьями и семьей.
2. Попросите звонящего подтвердить некоторую текущую личную информацию.
3. Следите за неравномерным ударением в словах или безэмоциональными разговорами.
4. Повесьте трубку и перезвоните человеку.
5. Будьте осторожны с необычными запросами, такими как: Б. Запросы банковских реквизитов
Даже без заранее заданной защитной фразы вы можете использовать аналогичную тактику, если у вас когда-либо возникнут сомнения в достоверности личности звонящего. Речевые клоны ИИ могут имитировать речь человека, но не обязательно имеют доступ к личной информации. Если вы попросите звонящего подтвердить то, что известно только ему, например, информацию из вашего последнего разговора, вы станете еще на шаг ближе к уверенности.
Доверяйте и своему уху. Хотя клоны голоса ИИ очень убедительны, они не на 100% точны. Следите за явными признаками, такими как неравномерное выделение определенных слов, бесстрастное выражение лица или невнятная речь.
Мошенники имеют возможность скрыть номер, с которого они звонят, и могут даже выглядеть так, как будто они звонят с номера вашего друга. Если у вас когда-либо возникнут сомнения, безопаснее всего повесить трубку и перезвонить человеку по обычному номеру, который у вас есть для него.
Мошенничество с голосовыми клонами также основано на той же тактике, что и традиционное телефонное мошенничество. Эта тактика направлена на оказание эмоционального давления и создание чувства безотлагательности, чтобы заставить вас совершить действие, которое в противном случае вы бы не сделали. Будьте внимательны и опасайтесь необычных запросов, особенно когда речь идет о переводе денег.
Те же предупреждающие знаки применимы к звонящим, утверждающим, что они из вашего банка или другого государственного учреждения. При обращении к нам стоит ознакомиться с процедурами вашего банка. У Старлинг, например, есть один. Отображение статуса вызова Вы в любой момент можете проверить в приложении, действительно ли банк вам звонит.
Вам также может понравиться…
