Ci risiamo: ancora donne che si ritrovano, loro malgrado, protagoniste della cronaca sul web. Perché “spogliate”, svestite a loro insaputa e ovviamente contro la loro volonttà. Questa volta si tratta delle vittime di Grok AI, l’assistente virtuale sviluppato da xAI, l’intelligenza artificiale di Elon Musk. La peculiarità di questo algoritmo, però, è che ha accesso diretto ai dati di X (l’ex Twitter), che segue le tendenze del momento e, a quanto pare, è in grado di modificare i contenuti postati dagli utenti, comprese le foto, che possono diventare dei “nudi”, senza che i proprietari ne siano a conoscenza.
Le donne spogliate da Grok
Come altri chatbot, come ChatGPT o Gemini, anche Grok ha ampio margine di azione, ma non solo nel fornire risposte agli utenti, se interrogato. A quanto pare è in grado di generare contenuti o modificarne di reali, come le foto di utenti. Il problema è che sta capitando sempre più spesso che tra queste ci siano scatti di donne che poi si sono scoperte “spogliate” sul web, senza che lo avessero deciso o avessero fornito alcun consenso. È quanto è accaduto, per esempio, a Samantha Smith, che ha condiviso la sua storia su X. In un post la donna ha raccontato come la sua immagine sia stata alterata dall’assistente virtuale e di come non sia l’unica vittima del fenomeno di deepnude.
Samantha “deumanizzata” da Grok
Come riporta la BBC, Samantha ha raccontato di essersi sentita «deumanizzata e ridotta a uno stereotipo sessuale» dopo aver usato Grok AI di Elon Musk, che le ha semplicemente (e fin troppo facilmente) tolto i vestiti di dosso. Ma il suo non è un episodio isolato e si unisce ai precedenti di deepnude, ricordati anche dall’emittente britannica. Sono «numerosi gli esempi sulla piattaforma X di persone che chiedono al chatbot di svestire le donne, per farle apparire in bikini senza il loro consenso, oppure inserendole in situazioni sessuali» irreali e delle quali le vittime non sono a conoscenza.
Donne violate e indifese
Interpellata a riguardo, l’azienda di Elon Musk, patron anche di X, Space X e Tesla, non ha voluto commentare, limitandosi a liquidare la faccenda come «bugie che circolano sui media». Ma le parole di Samantha pesano come macigni e scuotono le coscienze: «Nonostante non fossi stata io a spogliarmi volontariamente, sembra così e questo mi ha fatta sentire come se fossi stata violata, come se qualcuno di fatto avesse postato una mia foto nuda o in bikini», si è sfogata una delle donne vittime di Grok. Il problema è che lei, come le altre utenti nella stessa situazione, sono di fatto indifese.
Troppa poca vigilanza da parte dei social
Un portavoce del Governo britannico, infatti, ha fatto sapere che si sta lavorando a una legge che metta al bando strumenti che “nudificano” le donne e gli utenti in generale (compresi i minori), ipotizzando un nuovo reato che preveda il carcere e multe consistenti. Ma è necessario che le aziende che producono o gestiscono queste piattaforme o algoritmi vigilino in modo maggiore sui contenuti che vi circolano. Purtroppo la questione è resa complicata proprio dalla diversità di legislazione in materia, principalmente tra l’Unione europea e gli Stati Uniti.
I limiti delle norme
«Il Digital Services Act (DSA) prevede che le piattaforme debbano fare tutto il possibile per evitare di veicolare contenuti pericolosi per i minorenni o, in generale, che incentivino la violenza di genere», spiega l’avvocata Marisa Marraffino, esperta di diritto digitale e consulente per i minori per Terre des Hommes. Ma proprio Marraffino ricorda anche che «negli USA ci sono regole meno stringenti per le piattaforme e di recente la Federal Trade Commission, che corrisponde all nostra autorità Antitrust, ha precisato che il DSA non può essere applicato se limita la libertà di espressione». Di fatto, quindi, non viene riconosciuto e rimane lettera morta.
Cosa dicono le leggi
Rimane quindi l’interrogativo su come sia possibile proteggersi da un uso distorto dei propri contenuti da parte di altri o di strumenti che utilizzano l’intelligenza artificiale: «Va ricordato che in questi casi non si tratta di libertà di espressione: stiamo parlando di reati anche gravi. Tuttavia la responsabilità principale resta degli utenti. Anche gli Stati Uniti, infatti, hanno norme severe, per esempio in tema di revenge porn. In California il reato è stato introdotto persino prima che in Italia. Noi, invece, riconosciamo anche il reato di deepfake. In ogni caso anche prima della sua introduzione, quello di pornografia virtuale minorile colpiva tutte le condotte di produzione di materiale creato con software manipolativi», sottolinea Marraffino.
I contenuti hot generati da Spicy Mode
Il problema che si è verificato con Grok, purtroppo, riguarda anche altre piattaforme. Sicuramente il più clamoroso rimane Spicy Mode di Grok stessa, la modalità che permette di generare contenuti hot a partire da prompt testuali, che di fatto vengono trasformati in brevi videoclip di 6 secondi, accompagnati da audio. La funzione prevede la possibilità di generare avatar umani o alieni in abiti succinti e pose provocanti, pensati per un pubblico adulto attratto dalla nudità – parziale o integrale – femminile. Il passaggio da immagini create ad arte a foto modificate, però, può essere molto facile.
Il caso Taylor Swift e le utenti ignare
Uno dei casi più clamorosi ha riguardato, ad esempio, Taylor Swift, ma anche molte utenti ignare del fatto che le loro foto fossero state ritoccate, modificate e sostanzialmente rese dei nudi. Dure le critiche da parte di esperti di legge, come Clare McGlynn, professoressa di diritto alla Durham University, secondo cui Grok, pur essendo di condizione di fermare la circolazione di questi contenuti, «sembra gioisca della propria impunità» di fatto. «Per mesi la piattaforma ha permesso la creazione e pubblicazione di queste immagini, senza prendere provvedimenti», ha aggiunto, parlando di pornografia.
Pornografia “permessa” dalla legge
Cosa fare, quindi, se Meta (tramite Facebook o persino WhatsApp, che secondo gli esperti è diventato uno dei canali di diffusione di materiali pedopornografici) non recepiscono le leggi UE, come nei fatti è? «È comunque importante denunciare, se ci si è trovati spogliati da questi software. Oppure è possibile presentare un reclamo al Garante per la Protezione dei dati personali. Contro le piattaforme ricordiamo che in Italia le vittime possono usare anche lo strumento gratuito del reclamo all’AGCOM, ai sensi dell’art 53 del DSA, che consente di accertare eventuali violazioni, di aprire un’istruttoria e di stabilire anche sanzioni. Soltanto così il DSA potrà avere una piena attuazione», conclude Marraffino.