Scambiato per un ladro d’auto: possiamo fidarci della tecnologia di riconoscimento facciale?

«La mamma va in prigione.»

È quello che la trentaduenne Porcha Woodruff ha detto alle sue due figlie mentre veniva ammanettata davanti a casa sua lo scorso febbraio. Stava preparando le bambine per andare a scuola quando sei agenti di polizia si sono presentati a casa sua a Detroit. Le hanno chiesto di uscire perché era in arresto per rapina e furto d’auto.

Incredula, Porcha «ha indicato il suo ventre per far capire quanto fosse inadatta a commettere un crimine del genere: era incinta di otto mesi». Ma nessuna supplica è riuscita a convincere gli agenti della sua innocenza. Lasciando le figlie in lacrime con il fidanzato, è stata portata al centro di detenzione di Detroit.

Porcha Woodruff era diventata la terza residente di Detroit ad essere arrestata ingiustamente sulla base di una nuova tecnologia implementata dalla città nel 2019: il riconoscimento facciale computerizzato.

Uno strumento potente ma pericoloso

Il Dipartimento di Polizia di Detroit «utilizza un fornitore di servizi di riconoscimento facciale chiamato DataWorks Plus per confrontare volti sconosciuti con un database di foto segnaletiche di criminali». Nel caso di Porcha, una foto segnaletica del suo arresto nel 2015 per guida con patente scaduta era tra le foto che il software ha abbinato alle riprese di sorveglianza della stazione di servizio del vero autore del reato. La vittima del furto d’auto, un uomo di 25 anni, ha poi erroneamente scelto la foto segnaletica di Porcha da una “serie di sei foto”.

Secondo Gary Wells, professore di psicologia che ha studiato l’affidabilità delle identificazioni da parte di testimoni oculari, abbinare l’intelligenza artificiale al giudizio umano «è un circolo vizioso e pericoloso. Si ha a disposizione uno strumento molto potente che, se cerca un numero sufficiente di volti, troverà sempre persone che assomigliano alla persona nell’immagine di sorveglianza”. Il dottor Wells ha inoltre spiegato che la tecnologia aggrava un problema già esistente con i testimoni oculari: “Essi presumono che, quando si mostra loro una serie di sei foto, la persona reale sia lì”.

Ancora più inquietante è il fatto che alcuni fornitori di sistemi di riconoscimento facciale abbiano nei loro database molto più che semplici foto segnaletiche. Nel settembre 2019, nello stesso periodo in cui la polizia di Detroit ha iniziato a utilizzare DataWorks Plus, un ufficio dello sceriffo in Louisiana ha sottoscritto un abbonamento annuale da 25.000 dollari a Clearview AI, un fornitore che ha “raccolto miliardi di foto dal web pubblico, compresi i siti di social media, per creare un motore di ricerca basato sui volti ora utilizzato dalle forze dell’ordine”.

L’anno scorso, un uomo di 29 anni con molte foto su LinkedIn e Facebook ha concluso il suo weekend del Ringraziamento venendo estradato dalla Georgia alla Louisiana. Grazie a Clearview AI, ha trascorso quasi una settimana in carcere con l’accusa di aver rubato borse firmate in uno Stato che non aveva mai nemmeno visitato.

Tecnologia scadente contro indagini scadenti

Il 3 agosto, Porcha e il suo avvocato hanno intentato una causa contro il Dipartimento di Polizia di Detroit, sostenendo che “la tecnologia AI è stata la ragione per cui è stata erroneamente identificata come sospettata di furto d’auto”. Rispondendo in una conferenza stampa il 9 agosto, il capo della polizia James White ha attribuito l’arresto illegittimo a “lacune investigative, non a una tecnologia di riconoscimento facciale difettosa”.

White ha spiegato che il detective incaricato del caso non ha seguito la politica del dipartimento in materia di riconoscimento facciale, secondo la quale una corrispondenza del software «deve essere considerata una pista investigativa», non un motivo di arresto, «e l’investigatore richiedente deve continuare a condurre un’indagine approfondita ed esaustiva».

Nel caso di Porcha, nessuna indagine di questo tipo ha fatto seguito alla corrispondenza tra la sua foto segnaletica e le immagini di sorveglianza: il detective si è limitato a chiedere alla vittima se la donna (che aveva un complice maschio) sembrasse incinta! Secondo il capo della polizia, quella descrizione da sola avrebbe dovuto escludere Porcha dai sospettati.

Ma cosa sarebbe successo se l’imputata non fosse stata incinta di otto mesi? «Probabilmente in questo momento mi troverei a difendermi in un caso che non mi riguarda», ha dichiarato Porcha alla CBS News il 10 agosto. Lei e il suo avvocato ribadiscono la loro tesi secondo cui la colpa del suo arresto è da attribuire a una «tecnologia scadente», oltre che a un lavoro investigativo scadente. Secondo l’American Civil Liberties Union del Michigan, la prima causa favorisce la seconda, «e le rassicurazioni della polizia sul fatto che condurrà indagini serie non sembrano credibili».

Il software di riconoscimento facciale di Dio

La Bibbia descrive un altro tipo di tecnologia di riconoscimento facciale, che ci abbina ai nostri peccati con precisione perfetta: la legge dell’amore di Dio, divisa in due tavole (Matteo 22:37–40).

«Se qualcuno è uditore della parola e non esecutore, è simile a un uomo che osserva il proprio volto naturale in uno specchio; poiché si osserva, se ne va e dimentica immediatamente che tipo di uomo era. Ma chi guarda nella perfetta legge della libertà e vi persevera, … costui sarà benedetto in ciò che fa» (vv. 23–25).

In altre parole, la legge di Dio è uno specchio che ci mostra i nostri peccati — scritti sui nostri volti! È un dato di fatto che gli atteggiamenti, anche prima di essere espressi con gesti o parole, si manifestano nelle «microespressioni» facciali. Così, quando Caino si «adirò grandemente, … il suo volto si abbatté» (Genesi 4:5). Volendo che Caino vedesse il suo peccato prima che portasse al crimine di omicidio, Dio gli mostrò il Suo specchio: «Perché ti adiri? E perché il tuo volto si è abbattuto? Se agisci bene, non sarai forse accettato? E se non agisci bene, il peccato giace alla porta» (v. 6).

Purtroppo, Caino si allontanò dalla «legge perfetta della libertà» e uccise suo fratello Abele.

Quando il volto di Porcha Woodruff fu erroneamente identificato a causa di un software difettoso, lei trascorse 11 ore seduta su una panchina di cemento in una cella di detenzione. Ma il software di riconoscimento facciale di Dio non produce identificazioni errate. Se non permettiamo alla Sua giustizia di sostituire i peccati che vediamo nello specchio, dove trascorreremo l’eternità?

Vuoi trascorrerla con Dio? Guarda“5 passi verso l’eternità”per scoprire cosa dice il pastore Doug riguardo al ricevere il dono della vita eterna.

\n