Появление таких инструментов искусственного интеллекта, как DALL-E, Midjourney и Stable Diffusion, вызвало интенсивные дебаты и споры. Эти системы могут создавать фотореалистичные изображения и произведения искусства просто на основе текстовых подсказок, обучаясь на огромных наборах данных, полученных из Интернета. Однако это вызвало серьезные опасения по поводу нарушения авторских прав, согласия и неправомерного использования работ художников.

В ответ исследователи разработали радикально новую технологию под названием Nightshade, которая позволяет творческим людям «отравлять» свое цифровое искусство. Цель состоит в том, чтобы саботировать системы искусственного интеллекта, которые пытаются получить их контент без разрешения.

Такие инструменты, как DALL-E 2 и Stable Diffusion, используют форму искусственного интеллекта, называемую нейронными сетями. Они обучаются на огромных наборах данных изображений в сочетании с подписями или текстовыми описаниями. Это позволяет им изучить взаимосвязь между текстовыми понятиями и визуальными особенностями.

Например, если модель видит миллионы изображений с надписью «собака», на которых изображены шерсть, четыре ноги, хвост и т. д., она учится ассоциировать эти визуальные паттерны со словом «собака». Затем он может создавать совершенно новые фотореалистичные изображения собак с нуля, когда ему предоставляется текстовая подсказка, например «милый щенок сидит в траве».

Опасения по поводу очистки контента исполнителей

Модели становятся более функциональными по мере обучения на большем количестве данных. Это привело к тому, что стоящие за ними технологические гиганты удалили из Интернета миллионы изображений без согласия художника. Однако многие авторы недовольны тем, что их работы используются для обучения ИИ без разрешения или компенсации.

Это ставит перед художниками дилемму: делиться своими работами публично и рисковать неправильным использованием обучения ИИ, или уйти в частную жизнь и потерять известность? Такие платформы, как Instagram, DeviantArt и ArtStation, стали кладезем обучающих данных для систем искусственного интеллекта.

Как Nightshade вводит яд в модели ИИ

Согласно недавнему исследованию бумагаNightshade предлагает умное решение, атакуя и повреждая сами модели ИИ. Он добавляет тонкие изменения в пиксели цифрового искусства, невидимые для человека. Но эти настройки меняют концепции изображений и текстовые подписи, на которые опирается ИИ.

Например, Nightshade может изменить изображение собаки, чтобы модель ИИ приняла его за велосипед или шляпу. Если в наборе данных ИИ распространяется достаточное количество «отравленных» изображений, у него возникают галлюцинации причудливых связей между текстом и изображениями.

Тестирование показывает, что Nightshade может заставить модели искусственного интеллекта, такие как Stable Diffusion, создавать совершенно сюрреалистическое и бессмысленное искусство. Например, изображения собак становятся существами со слишком большим количеством конечностей и искаженными мультяшными мордами после 50 отравленных образцов. После обработки 300 фотографий отравленных собак Stable Diffusion даже выдаёт кошек, когда ему предлагается создать собаку.

Атака Nightshade использует природу «черного ящика» нейронных сетей. Причины коррупции сложно отследить в огромных массивах данных. Это означает, что удаление подозрительных данных похоже на поиск иголки в стоге сена.

Атака также распространяется между родственными понятиями. Таким образом, отравление образов «фэнтезийного искусства» сбивает с толку ИИ и в отношении связанных с ним терминов, таких как «драконы» или «замки». Это делает масштабную очистку Nightshade вручную практически невозможной.

Предоставление художникам решающего способа дать отпор

В свете юридических «серых зон», связанных с созданием контента с помощью ИИ, Nightshade представляет собой важный тактический вариант для креативщиков. Это позволяет им автоматически саботировать системы, получающие прибыль от их работы. Исследователи планируют интегрировать его в приложение под названием Glaze, которое уже маскирует произведения искусства из данных, полученных с помощью ИИ.

Поскольку Nightshade скоро будет открыт с открытым исходным кодом, мы можем увидеть несколько версий, которые могут массово отравлять модели ИИ. Это может заставить генеративные платформы пересмотреть свои подходы к сбору данных и должным образом отдать должное художникам. Но разработчики ИИ также стремятся найти способы обнаружения и устранения таких атак. На данный момент Nightshade предлагает создателям жизненно важный инструмент, который поможет вернуть контроль над гонкой вооружений в сфере искусственного интеллекта — возможно, лишь на короткое время, пока не будут разработаны автоматизированные системы, способные обнаруживать такие отравленные изображения.

Рекомендованное изображение: Изображение Уилло М.; Пексели; Спасибо!