Pris pour un voleur de voiture : peut-on faire confiance à la technologie de reconnaissance faciale ?

« Maman va aller en prison. »

C’est ce que Porcha Woodruff, 32 ans, a dit à ses deux filles alors qu’on lui passait les menottes devant chez elle en février dernier. Elle était en train de préparer ses filles pour l’école lorsque six policiers se sont présentés à son domicile à Detroit. Ils lui ont demandé de sortir car elle était en état d’arrestation pour vol et détournement de voiture.

Incrédule, Porcha « a fait un geste vers son ventre pour montrer à quel point elle était incapable de commettre un tel crime : elle était enceinte de huit mois ». Mais aucune supplication n’a pu convaincre les policiers de son innocence. Laissant ses filles en larmes avec son fiancé, elle a été emmenée au centre de détention de Détroit.

Porcha Woodruff est devenue la troisième habitante de Détroit à être injustement arrêtée en raison d’une nouvelle technologie mise en place par la ville en 2019 : la reconnaissance faciale par ordinateur.

Un outil puissant mais dangereux

Le département de police de Détroit « utilise un fournisseur de reconnaissance faciale appelé DataWorks Plus pour comparer des visages inconnus à une base de données de photos d’identité judiciaire ». Dans le cas de Porcha, une photo d’identité judiciaire prise lors de son arrestation en 2015 pour conduite avec un permis périmé figurait parmi les photos que le logiciel a associées aux images de vidéosurveillance d’une station-service montrant le véritable auteur du délit. La victime du carjacking, un homme de 25 ans, a alors choisi par erreur la photo d’identité judiciaire de Porcha parmi une « série de six photos ».

Selon Gary Wells, professeur de psychologie qui a étudié la fiabilité des identifications par témoins oculaires, associer l’intelligence artificielle au jugement humain « est un cercle vicieux et dangereux. « Vous disposez d’un outil très puissant qui, s’il analyse suffisamment de visages, trouvera toujours des personnes ressemblant à celle de l’image de surveillance. » Le Dr Wells a en outre expliqué que cette technologie aggrave un problème existant avec les témoins oculaires : « Ils partent du principe que lorsque vous leur montrez une série de six photos, la personne réelle s’y trouve. »

Plus inquiétant encore, certains fournisseurs de reconnaissance faciale ont plus que des photos d’identité judiciaire dans leurs bases de données. En septembre 2019, au moment même où la police de Détroit commençait à utiliser DataWorks Plus, un bureau du shérif en Louisiane a souscrit un abonnement annuel de 25 000 dollars à Clearview AI — un fournisseur qui a « récupéré des milliards de photos sur le web public, y compris sur les réseaux sociaux, pour créer un moteur de recherche basé sur les visages désormais utilisé par les forces de l’ordre ».

L’année dernière, un homme de 29 ans dont de nombreuses photos figuraient sur LinkedIn et Facebook a vu son week-end de Thanksgiving se terminer par son extradition de Géorgie vers la Louisiane. Grâce à Clearview AI, il a passé près d’une semaine en prison pour avoir prétendument volé des sacs à main de marque dans un État où il ne s’était même jamais rendu.

Une technologie de mauvaise qualité face à des enquêtes de mauvaise qualité

Le 3 août, Porcha et son avocat ont intenté un procès contre le département de police de Détroit, affirmant que « la technologie d’IA était la raison pour laquelle elle avait été faussement identifiée comme suspecte d’un vol de voiture ». Répondant lors d’une conférence de presse le 9 août, le chef de la police James White a imputé cette arrestation injustifiée à des « lacunes dans l’enquête, et non à une technologie de reconnaissance faciale défaillante ».

White a expliqué que l’enquêteur chargé de l’affaire n’avait pas respecté la politique du département en matière de reconnaissance faciale, qui stipule qu’une correspondance logicielle « doit être considérée comme une piste d’enquête », et non comme un motif d’arrestation, « et que l’enquêteur à l’origine de la demande doit poursuivre une enquête approfondie et exhaustive ».

Dans le cas de Porcha, aucune enquête de ce type n’a suivi la correspondance logicielle entre sa photo d’identité judiciaire et les images de vidéosurveillance — le détective s’étant principalement contenté de demander à la victime si la femme suspecte (qui avait un complice masculin) semblait enceinte ! Cette description à elle seule, selon le chef de la police, aurait dû écarter Porcha de la liste des suspects.

Mais que se serait-il passé si l’accusée n’avait pas été enceinte de huit mois ? « Je serais probablement en train de me défendre dans une affaire qui ne me concerne pas », a déclaré Porcha à CBS News le 10 août. Elle et son avocat maintiennent leur affirmation selon laquelle une « technologie de mauvaise qualité », ainsi qu’un travail d’enquête bâclé, sont responsables de son arrestation. Selon l’Union américaine pour les libertés civiles du Michigan, la première cause engendre la seconde, « et les assurances de la police selon lesquelles elle mènera des enquêtes sérieuses ne sonnent pas juste ».

Le logiciel de reconnaissance faciale de Dieu

La Bible décrit un autre type de technologie de reconnaissance faciale, qui nous associe à nos péchés avec une précision parfaite : la loi d’amour de Dieu, gravée sur deux tables (Matthieu 22:37–40).

« Si quelqu’un est un auditeur de la parole et non un pratiquant, il est semblable à un homme qui observe son visage naturel dans un miroir ; car il s’observe, s’en va, et oublie aussitôt quel genre d’homme il était. Mais celui qui scrute la loi parfaite de la liberté et y persévère, […] celui-là sera béni dans ce qu’il fait » (vv. 23–25).

En d’autres termes, la loi de Dieu est un miroir qui nous montre nos péchés — inscrits sur nos visages ! C’est un fait que les attitudes, avant même de s’exprimer par des gestes ou des mots, se manifestent par des « micro-expressions » faciales. Ainsi, lorsque Caïn « s’irrita fortement, […] son visage s’assombrit » (Genèse 4:5). Souhaitant que Caïn voie son péché avant qu’il ne conduise au crime de meurtre, Dieu lui tendit Son miroir : « Pourquoi t’irrites-tu ? Et pourquoi ton visage s’assombrit-il ? Si tu agis bien, ne seras-tu pas accepté ? Et si tu n’agis pas bien, le péché se tient à la porte » (v. 6).

Malheureusement, Caïn s’est détourné de « la loi parfaite de la liberté » et a tué son frère Abel.

Lorsque le visage de Porcha Woodruff a été identifié par erreur à cause d’une erreur du logiciel de reconnaissance faciale, elle a passé 11 heures assise sur un banc en béton dans une cellule de détention. Mais le logiciel de reconnaissance faciale de Dieu ne produit aucune erreur d’identification. Si nous ne laissons pas Sa justice remplacer les péchés que nous voyons dans le miroir, où passerons-nous l’éternité ?

Voulez-vous la passer avec Dieu ? Regardez «5 étapes vers l’éternité »pour découvrir ce que le pasteur Doug dit au sujet de la réception du don de la vie éternelle.

\n