Nel tentativo di infondere fiducia ai propri cittadini (che vivono sotto una dittatura, è bene ricordarlo), la Cina ha annunciato da tempo un piano per implementare un sistema di classificazione nazionale per i suoi cittadini e le aziende.

Dopo un periodo di un paio di anni in modalità pilota, il nuovo sistema è stato lanciato nel 2020, e passerà attraverso numerose iterazioni prima di diventare ufficiale.

Mentre il sistema può essere uno strumento utile per la Cina per gestire la sua crescente popolazione di 1,4 miliardi di persone, ha innescato preoccupazioni globali intorno all’etica dei big data, e se il sistema è una violazione dei diritti umani fondamentali.

In merito a quest’ultima cosa, vi tranquillizziamo (o spaventiamo) subito: lo è. E’ una violazione, e belle grossa. Ma vivere sotto una dittatura ha i suoi costi, e se va bene ai cinesi…

Guardiamo come il sistema di credito sociale in vigore in Cina funzioni, e quali siano le sue le implicazioni, che non sono di piccola portata.

Il governo sta sempre a guardare

Attualmente, il sistema varia da luogo a luogo, ma è concepito per essere come un sistema unificato. Anche se il programma pilota può essere stato più un esperimento che un precursore, ha dato una buona indicazione di cosa aspettarsi da un qualcosa che, è bene ricordarlo, è in continua evoluzione.

Nel sistema, ad ogni cittadino vengono assegnati 1.000 punti, e viene costantemente monitorato e valutato su come si comporta. I punti si guadagnano attraverso le buone azioni, e si perdono per il cattivo comportamento.

Gli utenti aumentano i punti donando sangue o denaro, lodando il governo sui social media e aiutando i poveri. Le ricompense per tale comportamento possono andare dall’ottenere una promozione al lavoro in modo rapido, al ricevere uno status prioritario per l’ammissione a scuola dei bambini.

Al contrario, non visitare regolarmente i propri genitori anziani, diffondere voci su internet e barare nei giochi online sono considerati comportamenti antisociali.

I grandi dati vanno dritti alla fonte

La sorveglianza perpetua che viene con il nuovo sistema attinge ad enormi quantità di dati da una varietà di fonti tradizionali e digitali.

Gli agenti di polizia usano occhiali intelligenti alimentati dall’intelligenza artificiale e droni per monitorare efficacemente i cittadini.

I filmati di questi dispositivi che mostrano un comportamento antisociale possono essere trasmessi al pubblico per svergognare i trasgressori, e dissuadere altri dal comportarsi in modo simile.

Per i trasgressori più gravi, alcune città in Cina costringono le persone a ripagare i debiti cambiando la suoneria della persona senza il loro permesso. La suoneria inizia con il suono di una sirena della polizia, seguita da un messaggio come:

“La persona che state chiamando è stata elencata come persona screditata dal tribunale locale. Si prega di sollecitare questa persona ad adempiere ai suoi obblighi legali”.

Due delle più grandi aziende in Cina, Tencent e Alibaba, sono state arruolate dalla People’s Bank of China per giocare un ruolo importante nel sistema di credito, sollevando la questione della sicurezza dei dati di terzi.

WeChat – la più grande piattaforma di social media cinese, di proprietà di Tencent – traccia il comportamento e classifica gli utenti di conseguenza, mostrando la loro posizione in tempo reale.

In seguito alle preoccupazioni sui dati, queste aziende tecnologiche – e altre sei – non hanno ottenuto alcuna licenza dal governo. Tuttavia, i giganti dei social media sono ancora coinvolti nell’orchestrare la vergogna pubblica dei cittadini che si comportano male.

l Dang’an digitale

Il sistema di credito sociale non è un’iniziativa completamente nuova in Cina. Il dang’an (in inglese: record) è un fascicolo cartaceo che contiene i rapporti scolastici di un individuo, informazioni sulle caratteristiche fisiche, registri di lavoro e fotografie.

Insieme all’attuale sistema di registrazione delle famiglie, il sistema Hukou, è stato una parte importante degli sforzi del governo per mantenere il controllo del suo popolo, sin dai primi anni del maoismo. La maggior parte dei registri sono conservati dagli uffici di archivio locali, alcuni dall’Amministrazione degli Archivi di Stato della Cina a livello nazionale.

Questa raccolta di dati dei cittadini per il sistema di credito sociale cinese può in effetti essere vista come una rinascita del principio del dang’an nell’era digitale, con il sistema che fornisce un potente strumento per monitorare i cittadini i cui dati sono più difficili da catturare.

Il sistema sta funzionando?

Alle persone con un punteggio basso è stato vietato di acquistare biglietti aerei quasi 18 milioni di volte, mentre le transazioni dei biglietti dei treni ad alta velocità sono state bloccate 5,5 milioni di volte. Ad altre 128 persone è stato vietato di lasciare la Cina, a causa di tasse non pagate.

Il sistema potrebbe avere importanti implicazioni per le pratiche commerciali straniere, poiché la preferenza potrebbe essere data alle aziende già classificate nel sistema.

Le aziende con punteggi più alti saranno premiate con incentivi che includono aliquote fiscali più basse e migliori condizioni di credito, con il loro comportamento giudicato in aree come:

• Tasse pagate
• Regolamentazione doganale
• Protezione ambientale

Nonostante la complessità della raccolta di grandi quantità di dati, il sistema sta certamente avendo un impatto.

Mentre ci sono benefici nell’avere un sistema di punteggio standardizzato e nell’incoraggiare un comportamento positivo, varrà il costo sociale della gamificazione della vita umana? Secondo noi, no.

La Cina è davvero una società orwelliana?

Per anni, il sistema ha fatto notizia in tutto il mondo come un totem del tecno-autoritarismo spietato della Cina – e, infatti, ha messo in lista nera circa 10 milioni di cittadini e aziende.

Ma questa narrazione globale ha ignorato che il sistema non è mai stato progettato per essere un sistema di super-punteggio guidato da un algoritmo.

Ci sono stati sistemi di punteggio locali che sono stati ampiamente confusi con l’SCS. Ma si trattava di iniziative stravaganti ai margini del sistema che oggi sono limitate in quello che fanno.

Gli scandali sulla sicurezza alimentare sono un problema ricorrente in Cina, così come i problemi di sicurezza sul posto di lavoro, gli arretrati salariali e il mancato rispetto dei contratti e degli ordini del tribunale.

Quando si trattava di affrontare questi problemi, c’erano delle leggi in vigore, ma l’applicazione era scarsa, e chi veniva beccato poteva semplicemente andare nella provincia successiva a commettere altri reati.

L’SCS avrebbe dovuto aiutare consentendo la condivisione dei dati tra le agenzie e introducendo liste nere a livello nazionale per costringere i trasgressori alla conformità. La sorveglianza e la repressione dei dissidenti politici o delle minoranze sono state lasciate ad altre iniziative più invasive, come i progetti Golden Shield e Sharp Eyes.

Detto questo, va fatto notare come l’SCS contribuisca ad avere una impressionante mole di dati sui cittadini cinesi e, in effetti, ad implementare un sistema del tipo “se ti comporti bene, ti premio, se ti comporti male ti punisco” che non è certamente in uso nelle democrazie occidentali, dove il cittadino è libero di fare quel che gli pare (nel rispetto delle regole), e se viene beccato a fare qualche reato viene comunque punito.

L’SCS e gli altri sistemi funzionano? Certo, ma non hanno certamente eliminato il problema. Perché è, purtroppo, umano il “cercare di fregare il sistema”, qualunque cosa questo faccia per controllare la popolazione.