Инструмент, на который многие крупные технологические компании в значительной степени полагаются после стремительного развития искусственного интеллекта, чтобы помочь общественности и компаниям отделить факты от вымысла, уже подорван еще до того, как он был развернут.
Идею водяных знаков — это то, на что указывают такие компании, как OpenAI, Amazon и Google, для борьбы с дезинформацией в Интернете. Поскольку генеративный искусственный интеллект находится на подъеме, особенно в форме дипфейков, его можно рассматривать как способ выяснить, что на самом деле реально. Это одно из важнейших предложений об усилиях, направленных на то, чтобы сделать использование ИИ более безопасным и прозрачным.
Однако, согласно заявлению, пока еще не так много четких и полностью надежных и надежных подходов к нанесению водяных знаков, и профессора Университета Мэриленда уже нашли способ сломать все существующие методы. ТехЭксплор.
Как ученые уже взломали водяной знак ИИ
Исследователи использовали технику, называемую диффузионной очисткой, чтобы направить гауссов шум (тип электронного шумового сигнала) на водяной знак и полностью удалить его, не слишком сильно затрагивая лежащее в основе изображение.
С ростом количества контента, создаваемого искусственным интеллектом, особенно в некоторых отраслях, возможность злоупотребления также стала вполне реальной. Также важно найти инструменты и стратегии, позволяющие отличать реальный контент от контента, созданного компьютером.
Водяные знаки — многообещающий подход Бумага, выпущенный 29 сентября. Это предполагает сокрытие сигнала в тексте или изображении, чтобы определить, был ли он сгенерирован ИИ. Теория состоит в том, что инструмент, который позволяет вам воспроизводить контент, может затем определить, настоящий он или фальшивый, избегая опасности попасться на что-то нереальное. Но метод атаки — диффузионная очистка — уже смог уничтожить сегодняшние водяные знаки.
«Судя по нашим результатам, разработка надежного водяного знака — сложная, но не обязательно невыполнимая задача», — говорится в документе, вселяя надежду.
«Эффективный метод должен обладать определенными свойствами, в том числе достаточно значительными помехами от водяных знаков, устойчивостью к наивной классификации и устойчивостью к шуму, передаваемому от других изображений с водяными знаками».