L’evoluzione dell’intelligenza artificiale ha reso possibile la creazione di contenuti visivi talmente realistici da rendere difficile distinguere il vero dal falso. Tuttavia, una delle derive più preoccupanti di questa tecnologia riguarda la produzione di immagini intime non consensuali, cioè contenuti a sfondo sessuale creati manipolando foto reali senza il permesso della persona interessata. Recentemente, il dibattito si è acceso attorno a Grok, il chatbot della piattaforma social X, utilizzato da molti utenti per “spogliare” digitalmente donne reali, incluse figure pubbliche e politiche. Come riportato in un’analisi di The Conversation, il governo del Regno Unito ha risposto accelerando l’attuazione di una legge, approvata nel giugno 2025, che vieta esplicitamente la creazione di questi contenuti, segnando un passo decisivo verso la tutela della dignità digitale.
Un’obiezione comune sollevata dai sostenitori di una totale libertà tecnologica è che queste immagini, essendo “finte”, non dovrebbero causare un danno reale. Eppure, la psicologia e la filosofia spiegano come la consapevolezza che un’immagine sia artificiale non impedisca lo sviluppo di reazioni emotive intense che contrastano con ciò che la mente sa essere vero, un po’ come la paura del vuoto che si prova guardando giù da un grattacielo nonostante ci si trovi dietro un vetro sicuro. Vedere la propria identità digitale violata e sessualizzata genera un trauma profondo, spesso paragonabile a quello subito dalle vittime di violenza sessuale fisica. L’alto grado di realismo di questi deepfake (contenuti multimediali manipolati dall’IA per far apparire reali situazioni mai avvenute) manipola le emozioni della vittima, provocando sentimenti di alienazione, umiliazione e violazione della sfera privata.
Dietro la creazione di questi contenuti c’è spesso un intento preciso di potere e controllo, spiega The Conversation. L’atto di usare un’intelligenza artificiale per “spogliare” una donna contro la sua volontà è una forma di misoginia digitale. “Bombardare” pubblicamente le donne con queste immagini significa tentare di esercitare un controllo su come esse presentano se stesse online, cercando di delegittimarle o silenziarle, specialmente se ricoprono ruoli di visibilità, per esempio nella politica o nell’attivismo. Il contenuto potrà anche essere fittizio, ma l’odio e la volontà di umiliare che ne guidano la creazione sono reali, tangibili e radicati in pregiudizi sociali.
Il disagio causato da queste immagini richiama altre forme di aggressione digitale, come le molestie subite dagli avatar (i propri sé digitali) negli ambienti di realtà virtuale. Anche in quei casi, l’assenza di un contatto fisico reale non elimina il trauma psicologico, poiché l’identificazione della persona con la propria rappresentazione digitale è fortissima. Per questo motivo, la comunità internazionale sta comprendendo che la regolamentazione non può essere reattiva, intervenendo solo a danno avvenuto, ma deve essere proattiva. Non si tratta di censura, ma di stabilire confini etici necessari in una società dove la dimensione virtuale e quella fisica sono ormai indissolubili. Proteggere i cittadini e le cittadine da questi abusi è una sfida etica urgente: minimizzare l’impatto di questi contenuti solo perché sono artificiale è un errore che ignora la reale sofferenza delle vittime e la necessità di un ambiente digitale sicuro e rispettoso per tutte e tutti.
(Foto di Priscilla Du Preez su Unsplash)
Ricordati di farlo
Lo sai che puoi destinare il 5 per mille dell’IRPEF all’Avis di Legnano? Basta inserire il nostro codice fiscale al momento della dichiarazione. Useremo i proventi per fare ancora meglio ciò che facciamo da sempre.