Мы склонны думать о Apple App Store и Google Play Store как о цифровых «огороженных садах» — безопасных, тщательно охраняемых пространствах, где опасный или нежелательный контент отфильтровывается задолго до того, как он попадает на наши экраны. Но новый мрачный анализ Проект технической прозрачности (TTP) указывает на то, что стены имеют серьезные трещины. Отчет раскрывает тревожную реальность: оба крупных магазина в настоящее время кишат десятками приложений «Nudify» на базе искусственного интеллекта. Это не малоизвестные инструменты, спрятанные в темной сети; Они тут же и позволяют любому сфотографировать невинного человека и снять с него одежду в цифровом формате без его согласия.
Ранее в этом году обсуждение этой технологии достигло апогея, когда AI Grok Илона Маска был пойман на публикации на платформе подобных изображений сексуального характера. Простой поиск по таким словам, как «раздеться» или «обнажить» в магазинах приложений, выдаст длинный список программного обеспечения, разработанного специально для создания дипфейковой порнографии без согласия.
Масштабы этой отрасли откровенно захватывают дух
Мы не говорим о нескольких разработчиках-мошенниках, ускользнувших сквозь щели. По данным, эти приложения были скачаны в общей сложности более 700 миллионов раз. Их предполагаемый доход составил 117 миллионов долларов. И вот неприятная правда: поскольку Apple и Google обычно взимают комиссию за покупки и подписки в приложениях, они фактически получают прибыль от создания сексуальных изображений без согласия. Каждый раз, когда кто-то платит за то, чтобы «снять» фотографию одноклассника, коллеги или незнакомца, технологические гиганты получают свою долю.
Человеческие издержки этой технологии невозможно переоценить. Эти инструменты превращают обычные фотографии в оружие. Селфи из Instagram или фотографию из ежегодника можно превратить в откровенный материал, предназначенный для преследования, унижения или шантажа жертв. Правозащитные группы кричали об этом в течение многих лет, предупреждая, что «нагота ИИ» — это форма сексуального насилия, от которого непропорционально часто страдают женщины и, что шокирует, несовершеннолетние.
Так почему же они все еще здесь?
И Apple, и Google имеют строгую политику, запрещающую порнографический и эксплуататорский контент. Проблема в правоприменении. Это стала цифровая игра от Whac-A-Mole. Когда публикуется громкий отчет, компании могут запретить некоторые конкретные приложения, но разработчики часто просто подправляют логотип, слегка меняют название и повторно загружают тот же код через неделю. Системы автоматизированного тестирования, похоже, совершенно неспособны идти в ногу с быстрым развитием генеративного искусственного интеллекта.
Для родителей и обычных пользователей это тревожный звонок. Мы больше не можем считать приложение безопасным или этичным только потому, что оно доступно в «официальном» магазине. Поскольку инструменты ИИ становятся все более мощными и доступными, средства защиты, на которые мы полагались в прошлом, перестают работать. До тех пор, пока не вмешаются регулирующие органы — или пока Apple и Google не решат поставить безопасность выше комиссионных — наши цифровые изображения будут оставаться крайне уязвимыми.
