Бен Чжао, профессор Чикагского университета, помог команде создать Программа искусственного интеллекта под названием Nightshade. Чжао утверждает, что он лишь помогает художникам найти способ остановить тех, кто использует их модели без разрешения создателя. Он говорит: «Мы надеемся, что это поможет изменить баланс сил от компаний, занимающихся искусственным интеллектом, в сторону художников, создав мощный сдерживающий фактор против неуважения авторских прав и интеллектуальной собственности художников». Я думаю, тот факт, что Чжао использует уязвимость безопасности в генеративном ИИ, вряд ли имеет значение. Чжао также не беспокоит, что существует риск того, что метод заражения данных может быть использован в злонамеренных целях. Он говорит, что злоумышленникам придется «собрать тысячи отравленных образцов, чтобы нанести реальный ущерб мощным моделям».
Довольно хорошо известен тот факт, что «Паслен» — это ядовитая красная или черная ягода с фиолетовым цветком на растении, родственном картофелю, и очень ядовитое. Отсюда и умное название «Паслен» от Чжао и его команды.
Профессор Корнеллского университета Виталий Шматиков говорит, что атак на машинное обучение мы пока не видели, но это будет лишь «вопрос времени». Многие другие называют работу Чжао и его команды «фантастической». Как говорит Гаутам Камат, доцент Университета Ватерлоо: «Уязвимости ИИ не исчезнут волшебным образом для новых моделей и станут более серьезными». Тем не менее, другие говорят, что эта маленькая (большая) ядовитая таблетка, наконец, заставит людей «дважды подумать» о том, чтобы прикасаться к работам художников без согласия. Одна художница призналась, что наконец-то поверит, что сможет снова выложить свои работы в Интернет.
В настоящее время инструмент находится на стадии исследования, но команда интегрирует его со всеми другими инструментами, созданными для защиты от украденных произведений художников.
Инструмент очистки изменит пиксели цифрового изображения, что «обманит» систему искусственного интеллекта, заставив ее неправильно интерпретировать рендеринг. Как заявили в MIT Technology Review, изображение одного животного будет выглядеть как другое — подобно тому, как собака станет кошкой, а дом может оказаться лошадью.
Изображение предоставлено: Фото Давиде Баральди; Пексели; Спасибо!
