Robert Julian-Borchak Williams è un uomo afroamericano, sposato e padre di due figlie, arrestato in casa sua, in Michigan, negli Stati Uniti, sulla base di un algoritmo di riconoscimento facciale per un reato mai commesso. A raccontare la sua disavventura e i pericoli derivanti dall’uso di questa tecnologia per arrestare i cittadini è stato il New York Times; la storia di Williams è il primo caso conosciuto di un errore di un algoritmo che ha portato direttamente all’arresto di un cittadino innocente, accusato di aver rubato orologi in un negozio di lusso del valore di 3.800 dollari.
L’uomo è stato rilasciato solo dopo 30 ore, nonostante avesse anche un alibi confermato da un video su Instagram. Secondo gli esperti interpellati dal Times, errori di questo tipo sono già comuni, perché i sistemi non sono infallibili e dovrebbero essere usati per aiutare le indagini e non come una ‘bacchetta magica’ che trova i colpevoli. Recenti studi del M.I.T. e del National Institute of Standards and Technology (NIST) hanno rivelato che la tecnologia è più accurata sul riconoscimento di uomini bianchi e lo è meno per altre tipologie di persone, a partire dagli afroamericani: la tecnologia, insomma, è discriminatoria e razzista.
“I falsi positivi sono un fatto ben documentato ed è una cosa che mi preoccupa, come uomo afroamericano” ha commentato lo scorso anno un funzionario di polizia di Detroit, James White. Questo mese, Amazon, Microsoft e Ibm hanno annunciato che interromperanno la loro offerta di tecnologia per il riconoscimento facciale alle forze dell’ordine, ma si tratta di un gesto poco più che simbolico, visto che queste aziende non sono tra i maggiori protagonisti di questo settore. Due giorni fa, nell’ambito di un dibattito nazionale sugli abusi e il razzismo della polizia, Boston ha deciso di vietare l’uso della tecnologia di riconoscimento facciale a scopo di sorveglianza e identificazione, unendosi così alle città californiane di Oakland e San Francisco e a una serie di località del Massachusetts, tra cui Cambridge.