ПимАйес, общедоступная поисковая система, работающая на основе распознавания лиц, добивается успехов в обеспечении безопасности детей в Интернете. Первоначально созданный для сопоставления фотографий людей в Интернете, сервис наложил запрет на использование распознавания лиц для поиска лиц младше 18 лет.
Однако Система определения возраста PimEyesработающий на основе искусственного интеллекта, все еще совершенствуется, о чем свидетельствуют некоторые трудности с правильным распознаванием детей с определенных точек зрения и различением подростков, как сообщает New York Times.
Действия по защите несовершеннолетних
Георгий Гобронидзе, генеральный директор PimEyesуже планировала внедрить механизмы защиты несовершеннолетних уже в 2021 году. Однако полностью эти обновления были введены только после статьи Кашмир Хиллжурналист Газета «Нью-Йорк Таймскоторый на прошлой неделе поднял вопрос использования искусственного интеллекта по отношению к детям.
Гобронидзе заявил, что организации по защите прав детей могут продолжать использовать PimEyes для поиска и помощи детям, в то время как все остальные поиски будут давать результаты, скрывающие лица несовершеннолетних.
Опасения по поводу конфиденциальности и участия несовершеннолетних
Статья в New York Times показала, что ПимАйес забанили более 200 аккаунтов за поисковые запросы, ненадлежащим образом ориентированные на детей. Одна мать поделилась своим опытом поиска на PimEyes фотографий своих детей, которых она никогда раньше не видела. Однако, чтобы отследить источник этих изображений, ему придется подписаться на ежемесячная подписка стоимостью $29,99.
PimEyes — лишь одна из нескольких систем распознавания лиц, которые стали предметом споров, связанных с конфиденциальностью. В январе 2020 года расследование The New York Times показало, что сотни правоохранительных органов уже используют Clearview AI, аналогичную систему распознавания лиц, с ограниченным контролем.
Как отметил Дейли Барнетт, штатный технолог Electronic Frontier Foundation: «это всего лишь еще один пример более серьезной проблемы в технологической отрасли, независимо от того, намеренно ли она предназначена для наблюдения или нет.». В прошлом Барнетт критиковал PimEyes за отсутствие первоначальных гарантий защиты детей, подчеркивая необходимость обеспечения целостности конфиденциальности с самого начала разработки сервиса.
Заключение
PimEyes активно предпринимает шаги по защите несовершеннолетних, запрещая исследования с участием детей. Однако система определения возраста PimEyes на основе искусственного интеллекта все еще находится в стадии разработки и при некоторых условиях сталкивается с некоторыми трудностями в правильном определении детей и подростков.
Несмотря на эти проблемы, PimEyes предприняла важные действия, заблокировав многочисленные аккаунты, связанные с поисковыми запросами, ненадлежащим образом ориентированными на несовершеннолетних. Вопрос конфиденциальности и безопасности детей остается важнейшим вопросом как для систем распознавания лиц, таких как PimEyes, так и для всей технологической индустрии.
Источник статьи:
