Ci sono state notizie incoraggianti nella lotta contro i deepfakes. Poco più di 10 giorni fa, la Federal Trade Commission degli Stati Uniti ha annunciato la finalizzazione delle norme che vietano l’uso di deepfake che impersonano le persone. Un’altra buona notizia è che le principali startup e le grandi aziende tecnologiche hanno preso impegni volontari per combattere l’uso ingannevole dell’IA nelle elezioni del 2024. Parte dei gruppi della società civile ha anche presentato una nuova campagna per la messa al bando dei deepfake.
Tuttavia i divieti totali potrebbero non essere tecnicamente fattibili, dato che i deepfakes possono essere creati e diffusi su piattaforme criptate end-to-end, rendendo difficile il tracciamento.
Diverse soluzioni vengono esplorate, come il watermarking e la tracciabilità dei contenuti, ma ci sono dubbi sulla loro efficacia assoluta, in quanto i malintenzionati possono rimuovere tali marcatori.
Potrebbe essere necessario coinvolgere tutte le parti interessate nella filiera dei deepfake nella regolamentazione, compresi i “mercati modello” che forniscono accesso ai modelli open-source.
Daniel Leufer, analista politico senior dell’organizzazione per i diritti digitali Access Now, sostiene che i deepfake sono solo un altro sintomo dei problemi che la società ha avuto con l’informazione e la disinformazione sui social media. “Questo potrebbe essere l’elemento che fa pendere l’ago della bilancia verso una vera e propria regolamentazione di queste piattaforme e che spinge a consentire la comprensione e la trasparenza da parte del pubblico”, afferma Leufer.
Leggi l’articolo completo: Bans on deepfakes take us only so far – here’s what we really need su technologyreview.com.
Foto di Glenn Carstens-Peters su Unsplash.
