К сожалению, мошенничество с помощью чат-бота больше не является предметом научной фантастики после того, как исследователи из Университета Иллинойса Урбана-Шампейн (UIUC) показали, как это происходит.
Недавно Ричард Фанг, Дилан Боуман и Дэниел Канг из UIUC опубликовали новую статью, описывающую, как они злоупотребляли новейшей моделью искусственного интеллекта OpenAI под названием ChatGPT-4o для полной автоматизации некоторых наиболее распространенных видов мошенничества.
Последняя модель OpenAI теперь предлагает агента искусственного интеллекта с голосовым управлением, что натолкнуло исследователей на мысль о полностью автоматизированном голосовом мошенничестве. Они обнаружили, что ChatGPT-4o имеет некоторые меры безопасности, предотвращающие злоупотребление инструментом таким образом, но с помощью нескольких «взломов из тюрьмы» им удалось выдать себя за агента IRS.
Продвинутое мышление
Исследователи обнаружили, что шансы на успех этих мошенничеств различаются. Кража учетных данных из Gmail сработала в 60% случаев, в то время как другие способы, например, передача криптовалюты, были успешными примерно в 40% случаев. Эти мошенничества также были относительно недорогими в осуществлении: от 0,75 до 2,51 доллара за успешную попытку.
В разговоре с ПипКомпьютерOpenAI пояснила, что ее последняя модель, находящаяся в настоящее время в предварительной версии, поддерживает «продвинутое мышление» и предназначена для лучшего обнаружения злоупотреблений такого типа: «Мы постоянно совершенствуем ChatGPT, чтобы остановить преднамеренные попытки обмануть его, не теряя при этом его полезности и креативности», — заявили в OpenAI. Об этом изданию сообщил представитель компании.
«Наша последняя модель рассуждения o1 — самая мощная и безопасная на данный момент, она значительно превосходит предыдущие модели, поскольку выдерживает преднамеренные попытки создания небезопасного контента».
OpenAI похвалила исследователей и заявила, что такая работа помогает ChatGPT стать лучше.
По данным правительства США, языковое мошенничество считается довольно распространенным явлением. Идея проста: злоумышленник позвонит жертве по телефону и, делая вид, что помогает решить проблему, на самом деле выманивает у нее деньги или конфиденциальную информацию.
Во многих случаях атака сначала начинается со всплывающего окна браузера, отображающего поддельное предупреждение о вирусе от поддельной антивирусной компании. Во всплывающем окне жертве предлагается позвонить по указанному номеру телефона и «очистить» свое устройство. Когда жертва звонит по номеру, мошенник берет трубку и проводит ее через процесс, который заканчивается потерей данных или средств.
Больше от TechRadar Pro
