Plus d'arrestations basées uniquement sur la FRT
Une patate chaude : La police de Détroit ne procédera plus à des arrestations uniquement sur la base des résultats d'un logiciel de reconnaissance faciale. Ce changement fait partie d'un accord conclu dans le cadre d'un procès qui a vu un homme arrêté à tort après que la technologie l'ait identifié à tort comme un suspect de vol.
Robert Williams a été arrêté en janvier 2020 après que la photo de son permis de conduire a été signalée comme correspondant probablement à celle d'un homme vu en train de voler des montres de créateurs dans un magasin en 2018. Lors de son interrogatoire, Williams a été informé qu'il était arrêté uniquement sur la base des résultats d'une identification par reconnaissance faciale.
Dans un procès ultérieur qui a été réglé vendredi, la ville de Détroit a accepté de payer 300 000 $ à Williams et de changer la façon dont elle utilise la technologie de reconnaissance faciale (FRT).
« Nous sommes extrêmement enthousiastes à l'idée qu'à l'avenir, il y aura davantage de garanties sur l'utilisation de cette technologie, dans l'espoir de vivre dans un monde meilleur grâce à elle », a déclaré M. Williams aux journalistes, « même si nous aimerions qu'ils ne l'utilisent pas du tout. »
L'Union américaine pour les libertés civiles, qui représentait Williams, a déclaré que la reconnaissance faciale tend à mal identifier les personnes de couleur.
D'autres arrestations injustifiées ont eu lieu dans lesquelles cette technologie a été utilisée, notamment celle d'une femme enceinte de huit mois accusée de vol et de détournement de voiture, et celle d'un homme accusé de dommages matériels.
Dans le cadre de l'accord, la ville a convenu que « toute piste de recherche préliminaire, combinée à une identification par identification, ne constituera jamais une base suffisante pour demander un mandat d'arrêt ». Les enquêteurs doivent s'assurer que d'autres preuves indépendantes et fiables relient un suspect à un crime.
« Ils peuvent obtenir une piste de reconnaissance faciale et ensuite ils peuvent sortir et faire un travail de police à l'ancienne et voir s'il y a réellement des raisons de croire que la personne qui a été identifiée (…) pourrait avoir commis un crime », a déclaré Phil Mayor, un avocat de l'ACLU.
La police recevra également une formation sur cette technologie, notamment sur ses risques et sur le fait qu'elle identifie de manière erronée les personnes de couleur à des taux plus élevés, a déclaré l'ACLU.
L'accord prévoit que la police de Détroit examinera les cas survenus entre 2017 et 2023 dans lesquels la technologie de reconnaissance faciale a été utilisée. Si la police apprend qu'une arrestation a été effectuée sans preuve indépendante, un procureur en sera informé.
Le tribunal ne peut faire respecter l'accord de règlement que pendant quatre ans. On ne sait pas si la police continuera à appliquer la nouvelle politique une fois cette période expirée.
Selon les études, les logiciels de reconnaissance faciale produisent plus d’erreurs lorsque les sujets sont des femmes, noirs et âgés de 18 à 30 ans.
L'ACLU a noté que le même algorithme produisait des taux de faux positifs pour les hommes noirs plus de trois fois supérieurs au taux de fausses correspondances pour les hommes blancs à différents seuils.
Image centrale : Explosion