Пытаясь обуздать онлайн-терроризм, гиганты искусственного интеллекта, включая OpenAI и Anthropic, пообещали поддержать Крайстчерчский призыв к действию. Эта инициатива, инициированная президентом Франции Эммануэлем Макроном, а затем премьер-министром Новой Зеландии Джасиндой Ардерн, возникла в ответ на трагические стрельбы в мечетях в Крайстчерче, Новая Зеландия, в 2019 году.
Содержание
Растущая угроза онлайн-терроризма
Приверженность этих компаний, занимающихся искусственным интеллектом, имеет решающее значение, поскольку правительства и лидеры отрасли признают неизбежный риск использования передовых технологий искусственного интеллекта террористами и воинствующими экстремистами. Недавние события, такие как нападения ХАМАС на Израиль, произошедшие 7 октября, привели к распространению в Интернете «огромного количества» террористического контента, что вызвало тревогу по поводу необходимости принятия надежных контрмер.
Джасинда Ардерн в обсуждение с Axios в Париже подчеркнули потенциальную роль ИИ в смягчении террористической деятельности. Она подчеркнула растущую индустрию технологий безопасности, недорогие решения с открытым исходным кодом и партнерство между Microsoft и Tech Against Terrorism для улучшения службы безопасности контента Azure с использованием искусственного интеллекта.
На саммите в Париже OpenAI и Anthropic официально присоединились к Крайстчерчскому призыву наряду с другими технологическими организациями, такими как Discord и Vimeo. Это произошло после того, как платформы подверглись критике за неадекватный контроль экстремистского контента, особенно после прямой трансляции атаки на Facebook в Крайстчерче.
Эффективные протоколы реагирования на кризисы
Протокол реагирования на кризис, разработанный сторонами, подписавшими Крайстчерчский призыв, сыграл ключевую роль в комплексном удалении прямой трансляции массовой стрельбы в супермаркете Буффало в 2022 году. Несмотря на эти усилия, Ардерн отмечает недавние недостатки в правильном использовании этих протоколов.
По оценкам Tech Against Terrorism, еженедельно создается около 5000 фрагментов террористического контента, созданных искусственным интеллектом. Одной из серьезных проблем является то, что инструменты ИИ могут помочь террористическим группировкам обходить автоматизированные системы идентификации контента, что повышает ставки технологических платформ в борьбе с онлайн-экстремизмом.
Обязательства Крайстчерчского призыва
Первоначальный призыв к действию сосредоточен на принятии немедленных мер по предотвращению распространения экстремистского контента, особенно посредством прямых трансляций. Ардерн, размышляя о резне в Крайстчерче, призвала к постоянным усилиям и инновациям в борьбе с онлайн-терроризмом.
Ардерн называет себя «технопрагматиком», признавая скептицизм в отношении искусственного интеллекта и социальных сетей. Она выступает за то, чтобы компании, занимающиеся искусственным интеллектом, действовали на опережение, признавая потенциальный вред и работая над упреждающими решениями, а не модернизируя постфактум.
Хотя ИИ предлагает более быстрые и потенциально более надежные способы обнаружения экстремистского контента, чем модераторы-люди, компании и правительства, участвующие в Крайстчерчском призыве, сталкиваются с минимальными требованиями к отчетности. Отсутствие контроля позволяет сократить модерацию контента, даже несмотря на то, что компании получают признание за свое участие.
Инклюзивность и глобальные стандарты
Призыв, продвигая свободный, открытый и безопасный Интернет, создает проблемы для недемократических правительств и компаний в таких странах. Ардерн предполагает, что эти организации по-прежнему могут применять стандарты Призыва без официального присоединения, обеспечивая более широкое соблюдение его принципов.
