Una grande azienda di telecomunicazioni Huawei e la startup tecnica Megvii – entrambi cinesi – hanno testato un software CCTV in grado di riconoscere l’età, il sesso e l’etnia di ogni persona attraverso le immagini scansionate. Il software sarebbe programmato per inviare una sorta di “allarme” alla polizia se il sistema di sorveglianza controllasse un’etnia uigura, una minoranza musulmana, sistematicamente discriminata e perseguitata dal governo cinese. Entrambe le società negano che lo scopo della loro tecnologia sia in questo, ma sia in Cina che in altri paesi, un software simile è già utilizzato per controllare le persone o reprimere i dissidenti, il che ha importanti implicazioni etiche e legali.
Dal caso si sono presi cura due giornalisti Washington Postche ha visto il report di test del software ottenuto tramite IPVM, un’organizzazione indipendente che analizza e valuta i sistemi di videosorveglianza.
Il documento, firmato dai funzionari Huawei, era sul sito web dell’azienda e spiegava che il software è stato sviluppato nel 2018 e recentemente testato. Dopo aver pubblicato l’articolo su Washington Post, L’8 dicembre il documento è stato rimosso dal sito web di Huawei. Tuttavia, il caso ha riacceso il dibattito sull’uso controverso dei sistemi di videosorveglianza, sempre più diffusi in Cina.
I funzionari del governo cinese citano Washington Post ha affermato che i sofisticati sistemi di riconoscimento facciale riflettono i progressi tecnologici della Cina e facilitano il lavoro della polizia per garantire i livelli di sicurezza nelle città. D’altra parte, per le ONG e gli osservatori internazionali, sono strumenti per reprimere coloro che sono visti come una minaccia per mantenere il controllo del governo sui cittadini. Secondo John Hanovich, il fondatore di IPVM, si tratta di tecnologie “spaventose” e “assolutamente normalizzate” che vengono utilizzate anche per la discriminazione.
– Leggi anche: La storia di un ricercatore che accusa Google di censura
Secondo l’amnistia, almeno negli ultimi anni 1 milione di uiguri Li avevamo perseguitato e detenuti in vari “campi di rieducazione”, come li chiama la Cina. Il governo cinese ha sempre negato di reprimere o trattare la minoranza uigura in modo diverso, descrivendo spesso le prove delle loro condizioni di vita “.notizie false » e semmai che definisce la repressione contro una minoranza come una campagna antiterroristica. Esistenza campi per gli uiguri tuttavia ciò è stato verificato da inchieste giornalistiche e Rapporti delle Nazioni Unite. La ricostruzione ha mostrato come gli uiguri siano rinchiusi nei campi senza essere in grado di difendere o sostenere il processo; come sono sottoposti a indottrinamento, lavoro forzato e in alcuni casi persino tortura.
Nel 2018 i ricercatori cinesi hanno sviluppato un algoritmo in grado di riconoscere, distinguendoli, i “tratti distintivi” dei volti di uiguri, tibetani e coreani. Come Egli ha detto New York TimesInoltre, il software di riconoscimento facciale utilizzato dal dipartimento di polizia della città di Sanmensia – circa 1.200 chilometri a nord-ovest di Shanghai – ha rilevato 500.000 uiguri in un mese lo scorso anno. Vari programmi utilizzati per la videosorveglianza, sviluppati da Megvii, sono utilizzati in più di 110 città cinesi.
Secondo Mai Wang, un osservatore della ONG Human Rights Watch, in Cina, questo software è sempre più comune anche per controllare i dissidenti e reprimere le proteste. Wang ha aggiunto che le ambizioni del governo cinese vanno ben oltre la persecuzione delle minoranze: il vero obiettivo sarebbe utilizzare i sistemi di riconoscimento facciale per criminalizzarle.
Oltre alle implicazioni etiche dell’uso sistematico delle telecamere a circuito chiuso per monitorare i cittadini, c’è un altro tipo di problema: il software può effettivamente dare risultati imprecisi, poiché il funzionamento dei programmi dipende da alcuni fattori, come l’intensità della luce. o la qualità delle immagini scansionate; inoltre, non è certo che i tratti del viso delle persone possano essere chiaramente distinti o attribuiti con assoluta certezza a un particolare gruppo etnico.
Sia Huawei che Megvii hanno confermato di aver lavorato insieme per sviluppare tre programmi di riconoscimento facciale e hanno affermato che il rapporto verificato di recente era valido. Tuttavia, il portavoce di Huawei Glenn Schloss ha detto che il documento dice “solo sul test e non ha applicazioni reali”; Schloss ha anche chiarito che l’azienda “vende solo prodotti pubblici per questo tipo di esperimento, ma non fornisce algoritmi e applicazioni personalizzati”. Un portavoce di Megvii ha detto che il software sviluppato dalla società “non è destinato a specifici gruppi etnici”.
– Leggi anche: Il riconoscimento facciale dovrebbe preoccuparci?
Jonathan Frankl, ricercatore presso il Laboratorio di informatica e intelligenza artificiale del Massachusetts Institute of Technology (MIT), ha spiegato che le società di software investono molto nei sistemi di riconoscimento facciale perché sono molto redditizi. Ad esempio, negli Stati Uniti e in altri paesi, sono stati utilizzati per diversi anni nelle indagini penali; il loro utilizzo è tuttora considerato controverso perché, secondo alcuni, viola le leggi che tutelano i cittadini indagati. In altri paesi comeUganda, è stato confermato che sistemi simili vengono utilizzati per monitorare gli oppositori politici e determinare chi sta partecipando alle proteste.
Nel 2019, gli Stati Uniti hanno sanzionato otto società cinesi per aver intrapreso attività che “violano i diritti umani” e per “abusi legati alla repressione, detenzioni di massa arbitrarie e sorveglianza mediante sistemi ad alta tecnologia”. Uiguri e altre minoranze. Tra queste società c’era Megvii. Tra le altre cose, da tempo anche gli Stati Uniti cercano di farlo limitare l’influenza di Huawei in Europa e tra i paesi alleati perché, secondo l’amministrazione statunitense, Huawei è vicina al governo cinese e rappresenta una minaccia per la sicurezza.