Quando sui forum dedicati alla pornografia generata da intelligenza artificiale hanno iniziato a circolare video deepfake di Bobbi Althoff, la risposta iniziale è stata relativamente silenziosa. Tuttavia, la situazione ha preso una svolta significativa quando uno di questi video è stato pubblicato su X. Il video è diventato di tendenza sulla piattaforma, in sole nove ore ha totalizzato oltre 4,5 milioni di visualizzazioni.
Nonostante X vieti la “nudità non consensuale”, l’applicazione delle regole è stata limitata poiché l’azienda, su indicazioni di Musk, ha ridotto il personale e smantellato il team incaricato di moderare i contenuti inappropriati. Da quanto è di prorpieta di Musk, il social è diventato uno dei canali più influenti per la diffusione della pornografia deepfake non consensuale. La piattaforma non solo facilita la viralità di foto e video falsi in un ambiente moderato in modo limitato, ma premia anche coloro che contribuiscono alla diffusione di tali contenuti manipolati.
In sintesi, l’esplosione della pornografia deepfake su X, alimentata dall’approccio limitato alla moderazione, dai vantaggi finanziari offerti e dalla mancanza di misure efficaci di contrasto, solleva gravi preoccupazioni riguardo alla gestione dei contenuti sintetici e al rispetto della privacy e della dignità delle persone coinvolte.
Leggi l’articolo completo Bobbi Althoff deepfake spotlights X’s role as a top source of AI porn su The Washington Post.
Immagine in copertina di Stefano Zocca su Unsplash.
