26 марта 2022 года в пригороде Балтимора произошло жестокое нападение на автобус Транспортной администрации штата Мэриленд. Злоумышленник несколько раз ударил женщину-водителя автобуса после ссоры по поводу правил маскировки COVID, а затем скрылся с ее мобильным телефоном.
По словам недавнего жителя Нью-Йорка отчетКамеры наблюдения зафиксировали изображение нападавшего. Транзитная полиция использовала эти фотографии для создания бюллетеня «Будь начеку», который распространялся среди правоохранительных органов.
Аналитик прокуратуры округа Харфорд просмотрел одно изображение наблюдения с помощью программного обеспечения для распознавания лиц. Алгоритм соответствовал Алонзо Корнелиусу Сойеру, чернокожему мужчине в возрасте 50 лет из Абингдона, штат Мэриленд.
Сойер был арестован несколько дней спустя, когда предстал перед судом по несвязанному с ним делу.
Полиция допросила его и показала ему изображения BOLO, на которых, как он настаивал, он не был — но они отклонили его утверждения после того, как его офицер службы пробации Аррон Догерти после просмотра видеозаписи точно опознал Сойера как нападавшего. Догерти до этого встречался с Сойером лишь дважды, пока Сойер был в маске.
Жена Сойера, Каррон Джонс-Сойер, также категорически опровергла изображения, показанные ее мужем, ссылаясь на физические различия в возрасте, телосложении, одежде и многом другом. Она предоставила потенциальное алиби, уведя Сойера подальше от места нападения. Однако детективы не провели дальнейшего расследования, чтобы подтвердить совпадение в распознавании лиц.
Расовая предвзятость ИИ
Этот случай иллюстрирует риски чрезмерной зависимости от инструментов ИИ без достаточных стандартов.
Расовая предвзятость приводит к тому, что системы распознавания лиц ошибочно идентифицируют цветных людей гораздо чаще. Алгоритмическое совпадение перевесило противоречивые показания очевидцев в ходе полицейского расследования.
После месяца тюремного заключения обвинения были сняты, когда Догерти признал свои сомнения после встречи с женой Сойера. Сойеру никогда не сообщалось об использовании системы распознавания лиц. Ни он, ни его жена не были уведомлены, когда в конце концов был арестован еще один мужчина.
В этой истории подчеркивается обеспокоенность по поводу недостаточной подготовки в области распознавания лиц, отсутствия подтверждений, нераскрытия информации об использовании технологии и предвзятости подтверждения, что заставляет полицию отклонять противоречивые доказательства.
Критики утверждают, что использование системы распознавания лиц должно быть запрещено или строго ограничено, учитывая возможность злоупотреблений и усугубления несправедливости без надзора. Сойер считает, что без вмешательства жены он бы ложно признал себя виновным, показывая, что такая практика может привести к чрезмерному судебному преследованию.
По мере быстрого распространения ИИ общественность нуждается в защите от непроверенных технологий. Опыт Сойера подчеркивает острую необходимость реформ, прозрачности и подотчетности, чтобы предотвратить новые неправомерные аресты.
Изображение предоставлено: Cottonbro Studio; Пексели; Спасибо!
