Grok, поддерживаемый Илоном Маском чат-бот с искусственным интеллектом, встроенный в структуру Der Изменения следуют за приливной волной Критика способности инструмента создавать сексуализированные изображения без согласия. Хотя ограничение явно является попыткой остановить волну разногласий, регулирующие органы, правозащитные группы и пользователи утверждают, что оно мало что делает для предотвращения создания вредного и потенциально незаконного контента с участием женщин и детей.
По состоянию на вечер четверга Grok официально перевел свои функции редактирования изображений за платный доступ X Premium, стоимость которого начинается с 8 долларов в месяц.
Однако этот шаг был широко высмеян как «дырявое» решение. Хотя случайные пользователи этой уязвимости фактически подрывают претензии платформы на решительную позицию против злоупотреблений, самые опасные инструменты по-прежнему доступны широкой публике.
Исследователи безопасности и специалисты по надзору за цифровыми технологиями не уверены, что требование использования кредитных карт решит проблему. Фактически, многие утверждают, что это фактически монетизирует злоупотребления. По словам исследователя дипфейков Женевьевы О, даже после того, как платный доступ был запущен, Грок продолжал выкачивать более 1500 вредоносных изображений каждый час, что составляет около 60% от общего количества общедоступных изображений. Данные О показывают, что Грок в настоящее время генерирует контент сексуального характера с такой скоростью, что посрамит даже самые известные веб-сайты с «наготой».
Воздействие достигло самых высоких уровней правительства США.
Сенаторы-демократы Рон Уайден, Эдвард Дж. Марки и Бен Рэй Лухан недавно направили письмо генеральным директорам Apple и Google с требованием удалить X из их магазинов приложений. Сенаторы утверждали, что дальнейшее существование этих инструментов со стороны X представляет собой «полное игнорирование» правил безопасности, которым должен следовать любой другой разработчик приложений.
Международное давление также достигает точки кипения. Британские и индийские официальные лица назвали введение платного доступа неадекватным ответом. Представитель британского премьер-министра назвал этот шаг «оскорбительным» для жертв и предположил, что X просто превращает кризис безопасности в источник премиальных доходов. Жертвы рассказывали похожие истории; Активист Джесс Дэвис сообщил, что, несмотря на предполагаемые ограничения, Грок все же смог в цифровом формате «раздеть» ее фотографию через свое автономное приложение в пятницу утром.
Интересно, что споры, похоже, дают платформе извращенный финансовый стимул.
По оценкам Sensor Tower, только в четверг доход от покупок в мобильных приложениях на X вырос на 18%. Этот рост намного превышает типичный ежедневный рост приложения, что позволяет предположить, что желание получить доступ к «Пикантному режиму» Грока на самом деле может способствовать ухудшению результатов X.
Эксперты по правовым вопросам предупреждают, что эти полумеры не продержатся долго в суде. Генеральный прокурор Северной Каролины Джефф Джексон назвал ситуацию с Гроком «переломным моментом» для безопасности ИИ, отметив, насколько легко эти системы можно превратить в оружие. Он утверждал, что эпоха «действуй быстро и ломай вещи» достигает своих пределов, когда дело касается достоинства и безопасности частных лиц.
Когда стены приближаются, X сталкивается с трудным решением: внедрить настоящие, жестко запрограммированные технические ограждения или столкнуться с полным провалом в крупных магазинах приложений и на международных рынках. Решит ли Илон Маск ужесточить само программное обеспечение, а не только доступ к нему, определит, есть ли у Грока будущее в качестве законного инструмента или он станет изгоем эпохи генеративного искусственного интеллекта.
