Ha fatto notizia la decisione recentissima della premier, Giorgia Meloni, di depositare la propria voce per evitare di essere vittima di deepfake. Ma fa ancora più notizia che in Italia si sia avviato un processo-pilota nei confronti di Meta, proprietaria di Facebook, WhatsApp e Instagram, proprio per impedire che contenuti non autorizzati (compresi volto e voce) possano essere utilizzati senza il consenso degli utenti. Eppure è accaduto e c’è già un primo, importantissimo risultato. Ad avviare il procedimento è stata l’avvocata Marisa Marraffino, in prima linea nella difesa delle vittime di reati informatici, specie se minori.
Il processo-pilota a Meta in Italia
Per capire la portata del processo occorre partire dalla fine: «Un giudice del Tribunale della Spezia, in Liguria, ha appena emesso un decreto in via d’urgenza disposto contro Meta che dà fiducia e speranza a tutte le vittime di deepfake. Si chiama inaudita altera parte, è stato emesso in tempi rapidissimi, l’indomani del deposito del nostro ricorso, ordinando a Meta non soltanto la rimozione di tutti i contenuti non autorizzati da tutte le piattaforme – compresa WhatsApp – ma anche di adottare filtri per impedire la ripubblicazione dei contenuti illeciti», spiega Marraffino.
Quando foto e video sono rubati e manipolati dall’AI
Si tratta di un primo passo, ma decisivo per tutelare chiunque usi le piattaforme social, in particolare i più giovani. La questione riguarda, infatti, foto, video (anche con voce) contraffatti con l’intelligenza artificiale, che mostrano gli ignari proprietari di quel volto o quella voce che compiono le azioni più svariate, da comportamenti sessuali a consigli finanziari, come nel caso spezzino. «In pochi mesi, il mio cliente, un noto consulente finanziario, si è visto creare più di 5mila deepfake. Video e fotografie col suo viso, la sua voce hanno iniziato a circolare soprattutto su Facebook e WhatsApp, tanto da essere fermato per strada dagli utenti, contattati dagli autori della truffa, tramite i vari profili falsi», racconta Marraffino.
Il caso dell’imprenditore spezzino
«I truffatori, infatti, creavano false inserzioni su Facebook, contenuti illeciti sponsorizzati, per i quali Meta incassava e continua a incassare ricavi – spiega l’avvocata – Dopodiché gli autori di questi reati si spostavano su WhatsApp consigliando investimenti per alterare il mercato finanziario e promettendo investimenti miracolosi». Il tutto sfruttando l’immagine dell’imprenditore, all’oscuro, fino a che la truffa non è stata scoperta e denunciata. Ma «Finora la risposta di Meta alle nostre segnalazioni era quasi surreale. Contenuti rimossi con settimane di ritardo o, peggio, risposte automatiche che sostenevano che quegli annunci palesemente truffaldini “rispettassero gli standard della community”». Da qui il ricorso d’urgenza in Tribunale.
La svolta con l’ordine del giudice spezzino
Il giudice Gabriele Romano, però, è intervenuto in sole 24 ore con tre obblighi urgenti nei confronti di Meta. Ora non solo ha il divieto assoluto di diffondere contenuti che utilizzano voce, viso o altri dati biometrici di un utente, senza il suo consenso; deve anche disattivare immediatamente qualunque pagina, inserzione pubblicitaria, ma anche chat e numeri impiegati per truffare le vittime, anche su WhatsApp. Infine, non può più solo agire a posteriori, ma deve predisporre filtri che impediscano che annunci analoghi a quelli cancellati siano ripubblicati. Dietro al meccanismo creato ai danni dell’imprenditore spezzino e di molti altri come lui, infatti, c’è un enorme business.
Il business dietro il deepfake sui social
«L’obiettivo della truffa, infatti, non è indirizzare gli utenti verso generiche piattaforme illecite, ma orchestrare vere e proprie operazioni di aggiotaggio (cioè causare rialzi o ribassi illeciti dei prezzi di mercato, NdR) e manipolazione – spiega Marraffino – Le chat a nome del falso consulente, infatti, spingono i risparmiatori ad acquistare massicciamente sul mercato regolamentato statunitense specifici titoli azionari sottili ed estremamente liquidi.
Questi sono usati come esche per gonfiarne ad arte il valore, salvo poi liquidare improvvisamente i titoli stessi, causando un tracollo del prezzo. In alcuni casi i risparmiatori vittime hanno perso anche oltre l’80-90% del capitale investito. L’aspetto del tutto nuovo qui è che Meta specula su queste inserzioni, incassando ricavi dalle inserzioni illecite».
Meta non è uno spettatore ignaro
A differenza di quanto si possa pensare, però, queste trappole non riguardano professionisti del mondo finanziario, ma semplici cittadini. Da qui l’urgenza dell’intervento, che è l’altra grande novità del pronunciamento del Tribunale ligure: «È una decisione fondamentale: chi incassa milioni vendendo spazi pubblicitari non può lavarsene le mani e dichiararsi “neutrale” quando quegli spazi veicolano frodi evidenti ai danni dei risparmiatori». Tradotto, Meta è stata inchiodata con le spalle al muro e chiamata in causa direttamente perché agisca in modo concreto per evitare preventivamente illeciti.
Cosa accade adesso
L’ordinanza del giudice ha efficacia immediata, anche se il processo non è terminato: si tornerà in aula il 10 dicembre. Nel frattempo, infatti, il pronunciamento sarà notificato in modo formale al quartier generale di Meta Ireland, a Dublino, entro il 18 novembre, in modo che l’azienda possa mettere a punto gli algoritmi per filtrare gli illeciti. Poi sono attese le risposte di Meta stessa in Tribunale, per il contraddittorio. «L’importanza di questo decreto è che è stato emesso dopo meno di 24 ore dal deposito del ricorso – chiarisce Marraffino – Ed è la prima volta in Italia che un giudice si pronuncia sui deepfake».
Troppe vittime di deepfake, anche in altre forme
«Eppure le vittime di questo reato sono tantissime anche in Italia. Dal 2025 esiste nel nostro ordinamento il reato specifico di deepfake. Per questa ragione è stata presentata anche una querela contro il legale rappresentante di Facebook Italy, la società che gestisce gli spazi pubblicitari per gli utenti italiani – spiega l’avvocata – Sono stati messi formalmente a conoscenza e non hanno fatto niente per impedire la prosecuzione del reato, questo è un fatto grave». Tra poco più di un mese, dunque, ci sarà un nuovo round della battaglia: «Chiederemo anche un indennizzo per ogni giorno di ritardo nella rimozione dei contenuti».
Ora la richiesta di indennizzi, anche per altri utenti
Marraffino è decisa ad andare fino in fondo, nel chiedere giustizia per le vittime: «Se il provvedimento dovesse essere confermato, avvieremo la fase di merito. I danni quantificati ad oggi superano il milione di euro. Abbiamo presentato anche un reclamo formale ad AGCOM, il coordinatore digitale per l’Italia per il Digital services Act, il regolamento europeo che dal 2024 consente alla Commissione Europea in questo caso di avviare istruttorie contro le piattaforme in caso di violazioni. Le sanzioni possono arrivare fino al 6% del fatturato annuo globale e costringere le piattaforme a cambiare le loro misure di sicurezza. Da un singolo caso, insomma, possono derivare benefici per tutti gli utenti. Ed è quello che ci auguriamo di fare con queste cause pilota anche in Italia».