In piena transizione digitale, con l’AI che si sta prendendo sempre più spazi, sembra non esserci spazio per alcun dubbio, ma siamo sicuri che l’innovazione tecnologica non stia mettendo a rischio il nostro futuro?

Non tutto ciò che è digital è cosa buona è giusta

“Immaginate di svegliarvi una mattina e di essere, improvvisamente, diventati inutili. Non servite più. Il vostro lavoro non serve più, a nessuno: quello per cui avete studiato anni, per cui vi siete specializzati, avete sudato sette camicie, avete tribolato, litigato, festeggiato e goduto. Vi alzate, vi guardate allo specchio, e vedete il volto di una persona inutile. Duole comunicarlo, ma è già accaduto nell’istante in cui i dipendenti di Elon Musk (per l’esattezza di Openai, una sua società), hanno visto che gpt-3 funzionava. E funzionava benissimo.”

Dopo settimane in cui non si parla d’altro che di ChatGPT e di se e come sostituirà alcune professioni, queste parole, scritte dalla giornalista Nicoletta Prandi nel saggio Immuni alla verità. Quello che (non) dobbiamo sapere sul potere digitale (Guerini e Associati) uscito nel marzo del 2022, sembrano profetiche.

Un libro difficile da leggere perché indaga il conto che ci presenta la tanto celebrata transizione digitale. E forse non avremmo voluto sapere che c’è un conto da pagare.

“La verità a cui siamo ancora immuni è quella che gran parte della classe politica tace, attirata da temi più premianti nel consenso, divenendo corresponsabile di una grave imprudenza: lasciare che a decidere delle nostre vite siano i grandi capitani d’industria del digitale”.

Eccola la scomoda verità che non vogliamo sentirci raccontare, ma che dobbiamo ascoltare. Ha a che vedere con noi, il nostro lavoro, la nostra privacy, la giustizia che sarà chiamata a dare un giudizio sul nostro operato, della politica della città in cui viviamo, delle relazioni con gli altri e anche con noi stessi.

Siamo i protagonisti di un romanzo di fantascienza, come quelli che abbiamo divorato di Asimov e Orwell, ma qui la finzione non c’entra e non si tratta neanche di un futuro lontano: è il presente e da questa storia non si può uscire chiudendo il libro e riponendolo sul comodino.

Nicoletta, l’avvento di ChatGPT ha messo in luce le potenzialità dell’AI, generando però anche molti interrogativi. L’innovazione tecnologica è sempre più veloce. Negli ultimi anni non si parla d’altro che di transizione digitale, ora di intelligenza artificiali, ma i riflettori sono puntati più sui benefici che sui rischi. Nel tuo libro invece hai ampiamento parlato del lato oscuro dell’AI. Si sta facendo un racconto distorto secondo te?

E’ vero, c’è stata un’accelerazione incredibile nell’ultimo anno e nelle ultime settimane è esplosa l’hype sull’intelligenza artificiale, in particolare sull’IA generativa che produce contenuti testuali, canzoni, musica, video, software.

Questa hype è stata volutamente creata dai produttori tecnologici e fa comodo per due ragioni. La prima è indurci a credere che la cosiddetta AGI (Artificial General Intelligence) che surclasserà l’uomo in tutte le sue competenze sia qualcosa di inevitabile, dirottando ovviamente anche buona parte dei finanziamenti verso quel settore. La seconda è farci pensare che non ci sia più tempo per correggere eventuali distorsioni.

Questa ribalta mediatica è la cosa più dannosa che ci possa essere e i media ne stanno parlando con superficialità.

Sono dell’idea che se prima non porti i lettori a toccare gli abissi dell’intelligenza artificiale poi non puoi offrire loro una visione critica accompagnandoli, certo, a scoprirne i benefici ma anche i rischi.

Uno degli errori più grossi che si stanno commettendo è scrivere e parlare di intelligenza artificiale umanizzandola, dimenticando che l’intelligenza artificiale non ragiona, non pensa, semplicemente produce una risposta che statisticamente è la più probabile. C’è chi empatizza con l’AI, trattandola come se fosse senziente.

Ti rendi conto di quanto può essere imprudente una narrazione simile?

Sì, per questo vorrei andare subito a parlare delle trappole della transizione digitale e dell’AI. Cosa ti preoccupa di più?

La prima trappola e la più importante è la disintermediazione. Nel momento in cui l’intelligenza artificiale elabora dati e trova una soluzione ai problemi del reale in modo veloce e apparentemente inattaccabile, perché è un calcolo, stiamo eliminando totalmente il passaggio del confronto con l’essere umano.

Ciò ha grosse conseguenze dal punto di vista politico. Non dimentichiamo infatti che la digitalizzazione è alla base del tema della Smart City.

Affidandosi all’AI, come prima cosa si rischia di rinunciare alla missione prima della politica che è quella di valorizzare anche le diversità che caratterizzano la nostra società. Secondariamente, si evidenzia una sorta di avocazione dalla responsabilità della politica. Si potrebbe arrivare a dire “tutto quello che accade non è colpa mia”, anzi si potrebbe anche arrivare a legittimare delle scelte inique, perché una certa decisione è la migliore soluzione trovata dall’AI.

Buona parte dei fondi del PNRR andranno proprio a finanziare la transizione digitale, quali rischi vedi?

Con il PNRR ci prepariamo ad affrontare una grande rivoluzione soprattutto in campo sanitario e dobbiamo cominciare a sapere che saremo assistiti non più in presenza ma a distanza.

Le domande che mi pongo sono: un medico di base che passerà otto ore al computer a visitare a distanza i suoi pazienti, la sera avrà lo stesso livello di attenzione della mattina? E ancora: le visite in presenza diventeranno appannaggio di una nicchia di persone?

La mia risposta a questo secondo quesito è con buona probabilità sì. Immagino un mondo in cui pagarsi una visita dal medico in presenza che ti dedica ben un’ora del suo tempo sarà un privilegio per pochi.

Poi c’è il grande tema del digital divide. Pensiamo alla popolazione anziana che dovrà essere alfabetizzata per essere assistita a distanza. E chi non potrà pagarsi una connessione wi-fi a casa come si curerà?

Mi auguro che almeno questo passaggio venga condotto con maturità e responsabilità da parte della classe politica, perché già è complicato curare la gente negli ospedali, figuriamoci farlo a distanza.

L’uso dell’AI in ambito medico permette però anche di fare passi da gigante nel trovare delle soluzioni alle malattie, non credi?

Sì, in campo oncologico, per esempio, l’intelligenza artificiale è preziosissima. La sua capacità computazionale permette di mappare il DNA e calcolare la probabilità statistica che una persona possa sviluppare una malattia, permettendo di intervenire in modo sempre più efficace.

In questo periodo si sta parlando molto anche di quantum computing. Cosa ne pensi?

Di questi computer quantistici ce ne sono pochissimi al mondo e sono ancora fortemente instabili perché devono essere conservati a temperature molto basse, sono costosi e sono energivori, ma permettono di fare dei calcoli in maniera estremamente più veloce e più complessa rispetto a un computer normale.

Man mano che questa capacità di calcolo aumenta diminuisce la nostra capacità di controllo quindi ci dobbiamo servire di un’altra intelligenza artificiale per controllare quella che già sta lavorando.

Tutto questo è senz’altro affascinante perché è come se espandesse la nostra capacità di conoscenza ma parallelamente dobbiamo trovare anche un modo per archiviare la nuova conoscenza scientifica.

L’uomo non si è trovato mai a che fare con una tecnologia così dirompente.

Se gli algoritmi regoleranno ogni ambito della nostra vita, non ci sarà anche un rischio di standardizzazione?

Il tema della standardizzazione è reale. Pensa che anche in amore un algoritmo già può aiutarci a trovare l’anima gemella. Esiste infatti un Gpt su Tinder che ha formulato le dieci domande da fare all’ipotetico partner per avere più probabilità di incontrare la persona più compatibile.

Il rischio è quello che invece di affidarsi al proprio intuito ci si affiderà una macchina.

Da questo ci possiamo salvare solo da soli: la conoscenza è un tassello indispensabile e deve diventare un diritto civile perché siamo in una fase in cui bisogna ridefinire l’apporto del lavoro umano dal momento che l’intelligenza artificiale ci sostituirà in molte attività.

Quindi alla domanda, che in tanti si stanno facendo, se ChatGpt sostituirà molte professioni la tua risposta è sì?

Ti rispondo chiarendo un aspetto: ChatGPT non è stata creata tanto per essere usata da noi quanto per essere usata dalle aziende in modo scalabile, quindi per sostituire fasi dei processi aziendali. Noi in questa fase siamo solo gli utili idioti di ChatGpt.

Non trovi strano che soluzioni costate miliardi vengano improvvisamente rilasciate aperte a tutti in modo gratuito? L’obiettivo era farci fare da cavie. I 100 milioni di utenti unici che ChatGPT ha totalizzato nel primo mese di rilascio hanno restituito un feedback preziosissimo all’azienda che l’ha prodotta, OpenAi, su come usiamo ChatGpt, quali sono i bug, cosa c’è da migliorare.

Tutte queste informazioni sono state regalate gratis a OpenAI che ora potrà perfezionare il prodotto nella versione a pagamento destinata alle aziende.

Venendo alla tua domanda se sostituirà il lavoro dell’uomo: no, non lo sostituirà, ma ne minimizzerà il valore quindi se oggi ci viene chiesto di scrivere un articolo, probabilmente domani ci verrà chiesto di correggere il testo prodotto da un’intelligenza artificiale.

A meno che non si tratti di un apporto umano professionale unico, in questo caso il valore crescerà perché sarà considerato qualcosa di nicchia. Volendo fare un parallelo, pensa a un abito di alta sartoria paragonato a un abito acquistato da aziende di fast fashion.

Vedi altri rischi nella diffusione dell’intelligenza generativa?

Sì, ChapGpt non cita le fonti. Oltre a esserci un problema di tutela dei diritti d’autore, sia in campo grafico e artistico sia in ambito letterario, si crea un effetto subdolo tale per cui finiamo con il pensare che GPT ragioni, ma non è così.

E pensa che stiamo già affidando all’intelligenza artificiale decisioni cruciali: se sganciare una bomba, ad esempio.

Il digitale è diventato una terra di conquista, andrebbe considerato nella sua dimensione geopolitica prima ancora che tecnologica. I Paesi presi dalla velocità di conquistare questo primato si dimenticano dell’antidoto più importante di cui disponiamo: la prudenza.

Alla luce di quanto hai sottolineato, secondo te un utilizzo etico di tecnologia e Ai è possibile?

I più importanti studi di consulenza hanno evidenziato un’urgenza che è quella di invitare le aziende tech a formulare e sottoscrivere una nuova licenza sociale, avviando una fase di confronto con la società, i corpi intermedi, le associazioni di categoria, per concordare degli standard vincolanti che possono anche essere diversi da Paese a Paese, ma dai quali non si può derogare.

Esattamente come avviene in tema ambientale, il rispetto di questi standard dovrebbe essere una condizione indispensabile per ottenere dei finanziamenti.

Poi c’è un altro aspetto secondo me da tenere in considerazione. Le aziende devono capire che man mano che aumenterà la consapevolezza del comune consumatore, la realizzazione di un prodotto che rispetti gli standard etici diventerà una leva d’acquisto.

Questo percorso deve partire dalle aziende ma deve anche essere sollecitato dalla società e dai decisori politici.

È chiaro che per convivere con l’innovazione tecnologica sarà sempre più importante essere informarti. Come e dove è possibile reperite informazioni approfondite?

Questo è un tema centrale, infatti buona parte del mio lavoro è mirata proprio a far nascere una curiosità propositiva nei lettori. Per questo cito sempre le fonti, così chi mi legge andandole a guardare può scoprire delle informazioni autorevoli e continui poi ad approfondire.

Suggerisco di leggere stampa verticale non italiana, perché è come se volendo scoprire di più del mondo delle Ferrari invece di andare a Maranello andassi da un concessionario in Vietnam. Capisci che non ha minimamente senso.

Allo stesso modo, si tratta di soluzioni incubate in un mondo totalmente diverso dal nostro, tutto arriva prima negli Stati Uniti che in Italia, e quindi è lì che dobbiamo andare a cercare.

Giornalista professionista dal 2005, con esperienza nella carta stampata, in radio e in TV, Nicoletta Prandi è specializzata nella divulgazione dei temi legati all’impatto sociale dell’Intelligenza Artificiale. Ha contribuito a fondare insieme all’Ordine degli Ingegneri della Provincia di Milano il CCSU, Centro di Competenze sulla Sicurezza Urbana. È stata membro del Gruppo di Lavoro allargato PdR UNI 48:2018, la prima Prassi di Riferimento in Italia volta a promuovere maggiore competenze nell’ambito della Pubblica Amministrazione nei processi di acquisto di tecnologie per la gestione della sicurezza urbana. Già Direttore Responsabile del sito Nuova Sicurezza, per il quale ha realizzato inchieste sui trend tecnologici di maggior interesse sociale e sull’impiego di tecnologie con Intelligenza Artificiale privacy compliant, attualmente conduce tutti i giorni un talk politico quotidiano su Radio Lombardia. È contributor del quotidiano La Ragione, su cui scrive di questi argomenti. Interviene a RaiNews24 nello spazio dedicato alla Rassegna Stampa. Nel 2022 è stato pubblicato da Guerini il suo saggio Immuni alla verità. Quello che (non) dobbiamo sapere sul potere digitale.