Almeno prima c’erano solo le truffe amorose. O le truffe e basta. L’Intelligenza Artificiale, più “simpaticamente” AI, prendeva la foto di uno sconosciuto e la usava per ingannare donne disposte a credere ancora all’amore puro.
Il deepfake ha assunto dimensioni enormi
Ora però il fenomeno del deepfake, cioè immagini, video e contenuti manipolati in modo da farli sembrare veri, ha assunto dimensioni enormi. E la maggior parte delle volte, a essere colpite in tutto il mondo sono le donne. L’ultimo caso più vicino a noi è quello di Arianna Petti, una ragazza di 19 anni a cui è stata sottratta una foto (vestita) che, con l’aiuto dell’AI, è stata modificata. E così Arianna si è ritrovata spogliata e diffamata pubblicamente con frasi e foto oscene. Solo in Gran Bretagna, dove esiste il Revenge Porn Helpline (servizio si supporto e quindi anche monitoraggio alle vittime di diffusione illecita di contenuti sessuali), dal 2017 le segnalazioni sono aumentate del 400 per cento. Nel 2024, tra immagini non consensuali e deepfake, oltre 22mila i casi gestiti.
Chi usa i deepfake è protetto dall’anonimato
E pensare che in Gran Bretagna i deepfake sessuali sono reato da un bel po’. Ma, com’è vero per la violenza sessuale e i femminicidi, anche per quella online il timore della pena non ferma le mani (e le tastiere) dei violenti. Tant’è che si parla ormai di “misoginia collaborativa” in tutto il mondo: gruppi di maschi, per esempio la comunità spagnola Hispasexy su Telegram, o quella italiana del gruppo Facebook Mia moglie, che si divertono a condividere immagini sessuali senza consenso. Tanto, nascosti dietro l’anonimato e soprattutto protetti da server posti all’estero, con Paesi che non collaborano, non rischiano quasi nulla.
La proposta di legge danese contro i deepfake
Ma qualcosa sta cambiando, sulla scia di un’indignazione che non conosce confini. I primi a dotarsi di una legge nazionale sui deepfake potrebbero essere i danesi, con una proposta che estende un meccanismo tipico del mondo artistico – il diritto d’autore – a ogni persona, riconoscendo che tutti noi abbiamo diritto a vedere tutelata la nostra immagine generata artificialmente. L’Italia va oltre, con una proposta di legge dell’onorevole Mara Carfagna, che punta all’obbligo di watermark sui contenuti falsi e alla responsabilità delle piattaforme.
Il problema delle piattaforme
Il nodo è proprio questo: obbligare le piattaforme a fornire i dati identificativi degli utenti, con le dovute garanzie e soprattutto costringerle a collaborare. «In realtà i grandi player come Meta e Tik Tok sono abbastanza collaborativi quando si tratta di tutelare i minori. Ma esistono tantissime piattaforme, anche più piccole o con server in Stati che non danno seguito alle richieste legittime delle autorità italiane» spiega l’avvocata Marisa Marraffino, esperta di diritti digitali. «E poi ci sono problemi legati a legislazioni molto diverse tra loro: basti pensare per esempio che negli Stati Uniti la diffamazione, molto spesso il primo step per trascendere poi in altri illeciti, non è reato, ma soltanto un illecito civile. Quando le autorità italiane chiedono i dati identificativi si sentono rispondere (se rispondono) che prevale il diritto alla riservatezza».
Il disegno di legge italiano contro i deepfake
La cara vecchia Europa, però, anche se in modo lento, si sta attrezzando: «Ci siamo dotati di strumenti solidi come il GDPR, il Digital Services Act e, da poco, l’AI Act, ma si fa fatica a inseguire l’innovazione tecnologica, soprattutto quando si tratta di proteggere le persone comuni, i “non famosi”, da abusi sofisticati» prosegue l’avvocata. «Le vittime devono sostenere in proprio i costi della difesa, spesso hanno paura e soprattutto sono sfiduciate. Il primo passo, come abbiamo già proposto con Terre des Hommes, è rendere identificabile chi si nasconde dietro a un nickname: le piattaforme devono essere obbligate a fornire le generalità dei singoli utenti dietro richiesta motivata di un giudice e, se non lo fanno, vanno sanzionate. È stato approvato da poco il disegno di legge che punisce penalmente i deepfake. È un primo passo, ma c’è ancora molto da fare per la tutela effettiva delle vittime».
In Italia manca una legge sul consenso
Sembra assurdo, ma da un giorno dall’altro ci si può trovare spalmate su siti e chat sessisti con una nostra foto manipolata, com’è accaduto ad Arianna, senza avere certezza che qualcuno poi verrà punito. È così difficile non capire come diffondere un contenuto altrui senza il consenso della persona a cui appartiene, sia un reato? Pochi giorni fa, un giovane di 23 anni nel milanese ha sottratto dai profili chiusi di Instagram di alcune amiche le loro foto, e le ha manipolate e diffuse online, senza capire la gravità del suo comportamento. «Quando qualcuno entra nel nostro account e ruba dei dati o delle foto, commette un reato: si chiama accesso abusivo a un sistema informatico. E se poi carpisce immagini intime, come nel caso del gruppo Facebook Mia moglie o Phica.eu, il reato è anche di interferenza illecita nella vita privata, oltre che di diffusione illecita di contenuti sessualmente espliciti se le divulgano senza il consenso delle vittime» prosegue l’avvocata.
Sul consenso siamo agli albori
«In ogni caso, è paradossale come il consenso viaggi a senso unico, cioè ci venga richiesto per qualsiasi operazione compiamo online, mentre facciamo fatica a bloccare o a far rimuovere fotografie e video pubblicati senza il nostro consenso. Di sicuro, almeno in Italia la cultura del consenso è ancora agli albori, come dimostrano recenti sentenze in casi di violenza sessuale, dove ancora si richiede che la donna dica «No» per poter condannare gli autori di una violenza.
Quando però una violenza è avvenuta – nel concreto o nel digitale – è già troppo tardi. Tardi per capire, ma forse non per agire, come dice Paolo Picchio, presidente onorario di Fondazione Carolina e padre di Caro, la prima vittima a 14 anni di cyberbullismo ma anche di revenge porn, perché le foto di lei, carpite a sua insaputa mentre gli amici abusavano del suo corpo, furono diffuse in chat. «Fintanto che il mondo adulto non capirà l’importanza della prevenzione, dell’educazione e del sorriso, saremo sempre in rincorsa. Tutti siamo chiamati a dare il nostro contributo con un abbraccio, una carezza, una gentilezza. Proviamo a rendere virali questi valori e i ragazzi diventeranno i nostri primi follower».
La App per disconnettersi dai social
È da loro, e da una relazione più analogica e concreta, che dobbiamo partire. Per questo Fondazione Carolina ha creato tre Rescue team, con professionisti in campo in tutta Italia e, a Milano, il centro ReTe, per aiutare i ragazzi imprigionati nel web, nella dipendenza o nelle conseguenze della violenza online. L’ultima vittima è Paolo Mendico, suicidatosi a 14 anni, schiacciato dal bullismo, come hanno denunciato i genitori. Difficile in questi casi tracciare confini netti e dire di chi è la colpa, perché è un po’ di tutti noi. Noi adulti siamo i primi a dare per scontato il consenso, a non sapere cosa sono sexting, vamping e grooming, a non capire le conseguenze di certi commenti sui social. Un aiuto concreto potrebbe venirci proprio dai ragazzi. Un giovane ricercatore, Simone D’Amico, visiting researcher al Digital Wellness Lab presso il Boston Children’s Hospital, insieme a due amici, Giulia Violati e Kyle Fernandes, ha messo a punto la App LockBox per bloccare i social, così da usarli meno. E magari in modo più responsabile. Con un pulsante – molto analogico – da condividere in famiglia, possiamo decidere per quanto tempo non farci risucchiare dai social. Un piccolo sforzo che viene poi ricompensato in modo anche questo analogico con sconti per eventi sportivi, corsi di arte e aperitivi in gruppo. Un po’ più di reale, un po’ meno di virtuale.
Se sei vittima di furto di immagini o deepfake
-Se una foto in tuo possesso è in mano d’altri, che minaccia di divulgarla, puoi bloccarla caricandola sul sito: https://stopncii.org/. Viene creato un hashtag unico, che viene condiviso con piattaforme partner – tra cui Facebook, Instagram, TikTok, Snapchat, Pornhub e Reddit (ma non X o Discord). Se qualcuno tenta di caricare quell’immagine, viene automaticamente bloccata.
– Se la piattaforma in cui è stata pubblicata una tua foto non collabora nel rimuoverla, o nel bloccare l’account responsabile, o se sei stata hackerata, puoi rivolgerti all’Appeals Centre, organismo europeo previsto dal Digital Service Act: https://www.appealscentre.eu/it/
-In caso di eventi che coinvolgono molte persone (com’è stato per il gruppo Facebook Mia moglie) puoi fare una segnalazione all’Agcom scrivendo a [email protected] oppure compilando il form online su agcom.it.