Anche Amazon esce (per un anno) dall’industria AI del riconoscimento facciale. Ma perché allora viene criticata?

La questione del riconoscimento facciale automatico è salita recentemente alla ribalta, strascico delle polemiche innescate dal caso Floyd e dalle conseguenti manifestazioni di protesta. Tutte le aziende coinvolte in questa tecnologia, volenti o nolenti, sono state costrette a prendere posizioni chiare in merito.

Poco tempo fa, parlando del progetto humanID avevamo accennato a come aziende quali IBM avessero fatto un passo indietro nell’ambito dell’intelligenza artificiale applicata al riconoscimento facciale. A queste si è aggiunta recentemente Amazon.

Come racconta TheNewStack, Amazon, che è forse il più importante fornitore per il governo di tecnologie di riconoscimento facciale con il suo Rekognition, ha implementato una moratoria di un anno che sospende la vendita del suo software ai dipartimenti di polizia.

Quel che però si chiedono in molti è se, al netto della bontà della mossa (ritenuta necessaria per le ragioni di cui sopra), questa non sia avvenuta troppo tardi ed in forma troppo lieve.

Infatti l’annuncio di Amazon segue quello di IBM e Microsoft e pare più un atto dovuto piuttosto che altro. Ma non è solo questo, molte critiche sono mosse alla reale affidabilità del software in questione, il cui problema maggiore risiede nella sua poca regolamentazione:

Despite Amazon’s recommendations to use a 95% confidence threshold for Rekognition in law enforcement situations, there is no regulation that compels authorities to do so.

Nonostante le raccomandazioni di Amazon di utilizzare una soglia di fiducia del 95% in Rekognition per situazioni di applicazione della legge, non esiste una regolamentazione che obblighi le autorità a farlo.

Oltre quindi ad un’inaffidabilità di base dichiarata, l’articolo riporta anche una serie di test effettuati con il software che ne certificano la fallibilità. E qui arriva il peggio:

Instead of addressing these concerns, Amazon dismissed the findings, prompting a group of 80 experts — including a former Amazon researcher and several other big names in the AI field — to pen an open letter supporting the MIT researchers’ findings, and also urging Amazon to cease selling Rekognition to law enforcement.

Invece di affrontare le questioni, Amazon ha respinto i risultati, spingendo un gruppo di 80 esperti – tra cui un ex ricercatore di Amazon e diversi altri grandi nomi nel campo dell’IA – a scrivere una lettera aperta a sostegno dei risultati dei ricercatori del MIT, e anche esortando Amazon a cessare la vendita del Rekognition alle forze dell’ordine.

Quindi si capisce da dove nascono le critiche: alla luce di tutto questo può bastare sospendere la vendita del software per UN (!) anno?

A voi le conclusioni, ciò che appare chiaro è come ci sia un gran bisogno di regolamentazioni in merito, poiché al momento la situazione pare molto assimilabile al far-west… E mai paragone fu più azzeccato.

Da sempre appassionato del mondo open-source e di Linux nel 2009 ho fondato il portale Mia Mamma Usa Linux! per condividere articoli, notizie ed in generale tutto quello che riguarda il mondo del pinguino, con particolare attenzione alle tematiche di interoperabilità, HA e cloud.
E, sì, mia mamma usa Linux dal 2009.

Tags: , , ,