Il peggior nemico dell’intelligenza artificiale potrebbe essere l’intelligenza artificiale stessa. Prova a dimostrarlo uno studio americano

La sindrome della mucca pazza nell’intelligenza artificiale: un pericolo reale?

L’intelligenza artificiale (IA) è una tecnologia in rapida evoluzione che sta avendo un impatto sempre più profondo sulla nostra vita. Dalle auto a guida autonoma ai sistemi automatici di rilevamento dati, le IA sono ormai presenti in ogni aspetto della nostra società.

Tuttavia, l’IA non è priva di rischi. Uno dei potenziali problemi più preoccupanti è la cosiddetta “sindrome della mucca pazza”, un fenomeno che può portare a un deterioramento delle prestazioni dell’IA e, in alcuni casi, a comportamenti dannosi o addirittura pericolosi. Lo evidenzia uno studio pubblicato lo scorso luglio da alcuni ricercatori della Rice e della Stanford University, che potete riscontrare qui.

Cos’è la sindrome della mucca pazza?

La sindrome della mucca pazza è un’espressione analoga a quella della malattia della mucca pazza, una patologia neurologica che colpiva i bovini da allevamento (oggi è stata completamente sradicata). La malattia era causata da un agente infettivo chiamato prione (una proteina patogena, cioè dannosa) che si replicava all’interno del corpo dell’animale, causando danni progressivi al sistema nervoso.

Nelle IA, la sindrome della mucca pazza si manifesta quando un modello di apprendimento automatico (Machine Learning, ML in inglese) viene addestrato su dati di scarsa qualità o su dati che presentano errori o bias. Questo può portare a un deterioramento delle prestazioni del modello, che può iniziare a generare output errati o dannosi.

Come si verifica la sindrome della mucca pazza nell’intelligenza artificiale?

La sindrome della mucca pazza può verificarsi in diversi modi. Un modo è addestrare un modello di apprendimento automatico su dati che presentano errori o bias, come appena detto. Ad esempio, un modello di ML addestrato su dataset di immagini di gatti può iniziare a generare immagini di cani se il dataset con cui viene addestrato sul momento contiene immagini di gatti mal fotografate o imprecise.

Un altro modo in cui può verificarsi la sindrome della mucca pazza è, anche qui già accennato, addestrare un modello di ML su dati di scarsa qualità. Ad esempio, un modello di ML addestrato su un dataset di testi di bassa qualità può iniziare a generare testi che sono grammaticalmente incorretti o che non hanno senso.

Infine, la sindrome della mucca pazza può verificarsi anche quando un modello di ML viene addestrato su dati che sono stati generati da un altro modello di ML. Questo processo, noto come “addestramento generativo“, può portare alla diffusione di errori o bias da un modello all’altro.

Effetti della sindrome della mucca pazza sull’intelligenza artificiale

Gli effetti della sindrome della mucca pazza per l’intelligenza artificiale possono essere gravi, come a suo tempo lo furono quelli per le mucche (anche se decisamente troppo amplificati dai media, sempre alla ricerca di disgrazie con cui tenere desta l’attenzione della popolazione, ahinoi… fateci caso quando guardate un TG o leggete un giornale). In alcuni casi, questi effetti possono portare a un deterioramento delle prestazioni dell’IA, rendendola meno accurata o meno affidabile. In altri casi, possono portare a comportamenti dannosi o addirittura pericolosi.

Ad esempio, un modello di ML addestrato su dati di bassa qualità può iniziare a generare risultati che siano inaccurati o fuorvianti. Questo può avere conseguenze negative in una varietà di settori, come la medicina, la finanza o la sicurezza.

In un caso particolarmente grave, un modello di ML addestrato su dati di bassa qualità è stato utilizzato per creare un sistema di riconoscimento facciale che ha identificato in modo errato persone di colore come criminali. Questo ha portato a una serie di casi di discriminazione razziale.

Come prevenire la sindrome della mucca pazza

Ci sono una serie di azioni che si possono fare per prevenire la sindrome della mucca pazza. Un modo è utilizzare dati di alta qualità per addestrare i modelli di ML. Ciò significa rimuovere gli errori e i bias dai dati, e assicurarsi che siano rappresentativi del mondo reale.

Un altro modo per prevenire la sindrome della mucca pazza è utilizzare tecniche di addestramento avanzate., come one-shot learning, transfer learning e apprendimento causale. Queste tecniche possono aiutare a mitigare gli effetti degli errori e dei bias nei dati di addestramento.

Infine, è importante monitorare le prestazioni dei modelli di ML per rilevare eventuali segni di deterioramento. Se si notano problemi, è necessario intervenire prontamente per risolvere il problema.

Problema reale o immaginario?

La sindrome della mucca pazza è un problema reale che potrebbe avere conseguenze negative per lo sviluppo dell’IA, e si sta appena iniziando ad averne piena contezza. È importante essere consapevoli di questo problema, e adottare misure preventive per evitarlo.

Con una pianificazione e un’attenta considerazione, possiamo costruire sistemi di AI che siano effettivamente sicuri, affidabili e benefici per l’umanità, che poi è lo scopo per cui stiamo cercando di sviluppare una vera intelligenza artificiale (che al momento non esiste).