Vall-E è un software che crea una voce generata dal computer che può essere utilizzata per impersonare persone reali. Viene creata con la registrazione della voce di una persona reale e un codice ideato da Microsoft. VALL-E è stato promosso come strumento per migliorare la disabilità delle persone attraverso la traduzione da testo a voce. Per addestrare l’intelligenza artificiale, gli sviluppatori hanno utilizzato fino a 60.000 ore di parlato in inglese. Il sistema non è ancora pubblico, ma se lo fosse, i truffatori forse potrebbero usarlo per ingannare gli altri, e indurli a inviare denaro.

In breve

Fin dal suo annuncio all’inizio del 2023, VALL-E di Microsoft è stato presentato come uno strumento per migliorare le disabilità delle persone, traducendo il testo in voce, oppure sostituendo i doppiatori per rendere un film o un gioco più accessibile. Tuttavia, ora sembra che VALL-E possa essere il software truffa più pericoloso mai rilasciato.

Secondo i commenti di diversi addetti ai lavori, VALL-E può essere usato per truffare le persone imitando la voce di un amico o quella di una celebrità. È un po’ come le maschere per FaceApp, ma per la voce. Microsoft, comunque, non ha ancora commentato la notizia che VALL-E possa essere un software che potrebbe facilmente far realizzare una truffa.

Che cos’è VALL-E?

Vall-E è una voce sintetica che può essere utilizzata per imitare persone reali. Viene realizzata utilizzando la registrazione della voce di una persona reale e un codice Microsoft. Questo codice non è ancora pubblico, ma è possibile che venga divulgato.

Fin dall’introduzione del primo modello di TTS, i ricercatori hanno lavorato per trovare il modo di migliorare il modo in cui i sistemi text-to-speech (TTS) producono il parlato. Il modello più recente di Microsoft, il VALL-E, rappresenta dunque un notevole progresso in questo campo.

Come funziona questo software?

La parte migliore è che questo software richiede solo tre secondi di parlato per l’apprendimento, o più precisamente, per il microapprendimento. Ciò significa che se si dispone di un clip audio di tre secondi di una persona che parla, si può inserire nel suo parlato, in un suo discorso, il testo che si desidera. Qualunque cosa, ma proprio qualunque.

Nessuno l’aveva mai fatto prima, e sono riusciti a farlo in modo particolarmente valido. Ma c’è da dire che gli sviluppatori hanno utilizzato fino a 60.000 ore di parlato durante la fase di addestramento (parole e discorsi che sembrano provenire dall’app Teams, probabilmente senza alcuna autorizzazione “conscia” di chi abbia utilizzato l’app).

Cosa rende VALL-E così pericoloso?

Vall-E è pericoloso perché agenti malintenzionati potrebbero usarlo per ingannare persone vulnerabili e magari far trasferire fondi su una carta di credito o su un conto corrente. I truffatori potrebbero usarlo per impersonare una persona familiare alla vittima, come un altro familiare o un amico. In questo modo, le persone potrebbero perdere molto denaro.

Microsoft non ha ancora rilasciato il codice di VALL-E, quindi non è disponibile al pubblico. Tuttavia, se trapelasse, potrebbe essere utilizzato da chiunque e per qualsiasi motivo. In questo modo sarebbe quasi impossibile capire se la voce di una persona è reale o meno.

Se vi viene chiesto di trasferire fondi su una carta, assicuratevi di verificare l’identità della persona prima di inviare denaro.

Come proteggersi da questo software?

Al giorno d’oggi è importante essere vigili ed attenti in merito a chi parla al telefono. Con l’avvento della tecnologia di clonazione vocale, è ora possibile per i truffatori creare registrazioni false della voce di persone reali. Questo può rendere molto difficile capire se si sta parlando con una persona reale o meno.

Se avete dei dubbi, potete fare alcune cose per proteggervi. Innanzitutto, cercate di verificare l’identità della persona ponendole domande alle quali solo la persona reale saprebbe rispondere. Se non siete ancora sicuri, potete dire loro che li richiamerete, e quindi chiamare il numero che sapete appartenere a loro. Nel caso aveste ancora dei dubbi, potete chiedere alla persona il suo nome e la sua posizione lavorativa. Se la persona è riluttante a fornirvi queste informazioni o sembra comunque losca, potete sempre riagganciare, e chiamare la società per cui dichiara di lavorare per verificare la sua identità.

Dovete anche prestare attenzione alle “red flags“, cioè ai segnali, che possono indicare che stiate parlando con un truffatore. Insospettitevi se la persona vi chiede di trasferire fondi su una carta prepagata, o se utilizza un saluto generico come “Ciao, amico”, senza pronunciare il vostro nome. Riattaccate immediatamente il telefono se avete la sensazione di essere in procinto di essere truffati.

Se sarete vittime di una truffa orchestrata utilizzando VALL-E, dovreste denunciarla al vostro dipartimento di polizia locale. Sarebbe poi più che opportuno contattare Microsoft, per vedere se è possibile ottenere un rimborso per evitargli ed evitarvi cause legali. Nessuno vuole perdere miliardi di dollari per un software nato per tutt’altro, ma dovete stare ben attenti a quel che fate, soprattutto in quest’epoca di digitalizzazione spinta.