Arrestata dal riconoscimento facciale

Diversi media hanno dato spazio alla vicenda di una signora incinta arrestata per un errore del riconoscimento facciale. Senza voler minimizzare la serietà di quanto accaduto, neppure si vuole dare troppa enfasi. Anzitutto un errore può capitare anche ad investigatori umani, in secondo luogo il fatto che fosse una persona di colore – e non si tratta né di razzismo, né di bias dell’AI, semplicemente è un fatto noto che ragioni tecniche portano ad un riconoscimento meno preciso dei volti scuri – somigliante con la vera ricercata ha creato l’equivoco. Tutto qui, senza drammatizzare né considerare normale quanto accaduto. Piuttosto dev’essere lo spunto per riflettere su cosa potrà accadere quando questi sistemi verranno diffusi su vasta scala: non ci si potrà più muovere senza venire scambiati per qualcun altro ed anche le forze dell’ordine potranno venire distratte da falsi allarmi. Almeno fino a quando la tecnica non migliorerà fino al punto da essere quasi perfetta.

Signora di colore arrestata per un errore del riconoscimento facciale