Emergenza deepfake: l'intelligenza artificiale consente di elaborare immagini o video pornografici "finti" manipolando immagini reali di utenti inconsapevoli. Vittime di questa forma di violenza digitale soprattutto le donne
La creazione di immagini pornografiche attraverso l’intelligenza artificiale sta diventando un allarme sociale. Gli attacchi attraverso i deepfake di tipo pornografico, detti deepnude, consistono nella diffusione di video o immagini opportunamente manipolate sui social, spesso con l’obiettivo di rovinare la reputazione della vittima, ricattarla o umiliarla. Il fenomeno si sta diffondendo in modo preoccupante e ancora non è chiaro come poter arginare il problema a livello normativo.
I deepfake a fini di ricatto o vendetta
I deepfake sono delle tecniche di intelligenza artificiale che permettono di manipolare video, audio o immagini in modo da creare contenuti falsi ma realistici. In particolare il loro utilizzo nella creazione di false immagini pornografiche sta diventando sempre più comune su Internet. “Rubando” il volto di una persona da una normale foto, si possono creare attraverso all’intelligenza artificiale immagini hard false che spesso sono vengono diffuse online a scopo di ricatto, vendetta o semplice “divertimento”. I “deepnude” possono diventare strumenti di diffamazione in grado di provocare danni sociali e psicologici gravi alla vittima.
Il caso dei deepfake in un liceo americano
Quest’anno, genitori e studenti della Westfield High School, nel New Jersey, hanno ricevuto un’e-mail allarmante dal preside in cui si spiegava che diversi studenti avevano creato immagini pornografiche delle loro compagne di classe utilizzando un’applicazione di intelligenza artificiale (AI). In risposta all’incidente, Dorota Mani e sua figlia Francesca, 14 anni, vittima di queste immagini false, si sono impegnate nella lotta contro il deepfake porno. Un’indagine interna all’istituto ha portato alla sospensione di uno studente per un giorno. I genitori delle vittime hanno lamentato l’inefficacia delle misure intraprese dalle autorità educative.
Il caso delle adolescenti spagnole
Lo scorso settembre, in Spagna, nella provincia di Badajoz, è salito alle cronache il caso delle 20 ragazze, tra gli 11 e i 17 anni, che avevano trovano sugli smartphone dei compagni di classe le loro foto senza vestiti: naturalmente generate dall’intelligenza artificiale e messe in circolazione attraverso i social.
Donne nel mirino dei deepfake
I video falsi colpiscono soprattutto le donne. Secondo Sensity AI, una società di ricerca che rintraccia video iperrealistici su Internet, il 90-95% di essi sono pornografici e non consensuali e nove su 10 coinvolgono donne. Il rapporto più citato sul fenomeno, pubblicato da Deeptrace nel 2019, ha rintracciato fino a mezzo milione di file falsi su internet, con un tasso di crescita nel numero di video deepfake online pari a quasi il 100% da quando la società aveva precedentemente rilasciato i dati. Ma il volume reale non è chiaro.
Celebrità vittime dei deepfake
Il rapporto Deeptrace stima in oltre 134 milioni il numero di visualizzazioni video di materiale deepfake nei quattro principali siti web dedicati. Le celebrità sono spesso vittime di queste pratiche. La cantante spagnola Rosalía è un esempio recente in una lunga lista internazionale guidata dalle attrici Emma Watson e Natalie Portman.
Falsificare un’immagine è sempre più facile
La falsificazione dell’IA è passata dalle immagini alla voce, al testo, ai documenti e al riconoscimento facciale fino a diventare uno dei vettori di frode emergenti più preoccupanti.
Non solo pornografia: i pericoli dei deepfake
L’Istituto europeo per le norme di telecomunicazione (ETSI) ha messo in guardia in uno dei rapporti più completi e aggiornati sui pericoli dell’uso “sempre più facile” dell’intelligenza artificiale nella creazione di file falsi. “A causa dei progressi significativi nell’applicazione dell’intelligenza artificiale al problema della generazione o della modifica dei dati rappresentati in diversi formati multimediali (in particolare audio, video e testo), sono emerse nuove minacce che possono portare a rischi sostanziali in vari contesti che vanno dalla diffamazione personale e apertura di conti bancari utilizzando false identità (attraverso attacchi alle procedure di autenticazione biometrica) a campagne per influenzare l’opinione pubblica“, si legge nel rapporto.
Uno strumento di pressione politica
Nel marzo 2022 è stato diffuso un video deepfake del presidente ucraino Volodymyr Zelenskiy che annunciava la resa del suo paese alla Russia. La politica democratica statunitense Nancy Pelosi è stata il bersaglio di un altro, in cui sembrava essere ubriaca, e personaggi pubblici tra cui Donald Trump, Barack Obama, Papa Francesco ed Elon Musk sono stati tutti oggetto di simili creazioni false.
I rischi del deepfake nell’industria del cinema
Nell’area artistica, questa tecnologia può essere utilizzata per creare contenuti cinematografici. Il sindacato SAG-AFTRA, che raggruppa 160.000 lavoratori dell’industria dell’intrattenimento, ha indetto uno sciopero a Hollywood a luglio per chiedere, oltre a una migliore retribuzione, garanzie di tutela contro l’uso dell’intelligenza artificiale nelle produzioni.
Riproduzione riservata
Vedi anche
