Negli Stati Uniti continuano le proteste contro la brutalità, il razzismo e l’abuso sistematico da parte dei corpi di polizia locali, e grazie a IBM la questione investe anche la sfera tecnologica. Si parla, in particolare, dei sistemi di riconoscimento facciale, una tecnologia sempre al centro della discussione che ora diventa un pretesto per la richiesta di una riforma politica in quel di Washington.
Tutto è partito da una lettera del CEO di Big Blue Arvind Krishna inviata a cinque membri del Congresso USA, missiva in cui l’amministratore della corporation invoca a chiare lettere una riforma per la “giustizia razziale” contro gli abusi che si stanno verificando in questi giorni. IBM dice di voler promuovere “politiche tecnologiche responsabili”, e tale responsabilità passa a quanto pare dalla fine dei progetti connessi al riconoscimento facciale dell’azienda.
Big Blue non venderà più il suo software di analisi e riconoscimento facciale general-purpose, dice la missiva, e la corporation si oppone “fermamente” all’uso di qualsiasi tecnologia (riconoscimento biometrico incluso) per la sorveglianza di massa, la profilazione razziale, la violazione dei diritti umani fondamentali e per “qualsiasi scopo” vada contro i valori di Fiducia e Trasparenza a cui si ispira il suo business.
L’intelligenza artificiale e il riconoscimento facciale sono strumenti potenti in grado di aiutare le forze dell’ordine a difendere i cittadini, sostiene ancora Krishna. Ma sia i produttori che gli utilizzatori della IA hanno una responsabilità condivisa quando si tratta di verificare gli algoritmi intelligenti in merito ai falsi positivi.
Le parole di principio espresse da IBM sono significative, ma in quanto al “business” del riconoscimento facciale Big Blue non ha un passato particolarmente glorioso da difendere. Fra i tanti software biometrici in circolazione, quello di IBM non è considerato tra i migliori. In un test di due anni fa, la IA di Big Blue ha dimostrato l’inquietante tendenza a generare una percentuale di errori significativa nell’analisi dei volti delle donne dalla pelle scura (34,7%) contro il 7,1% delle donne bianche.