Identificare il materiale creato dall’intelligenza artificiale è una sfida tecnica enorme. Le migliori opzioni attualmente disponibili – strumenti di rilevamento basati sull’intelligenza artificiale e watermarking – sono inconsistenti e talvolta imprecise: proprio questa settimana OpenAI ha dismesso il proprio strumento a causa degli elevati tassi di errore).
Ultimamente, però, un altro approccio sta attirando l’attenzione: C2PA. Lanciato due anni fa, è un protocollo Internet open-source che si basa sulla crittografia per codificare i dettagli sulle origini di un contenuto, o informazioni di “provenienza”.
Microsoft, Intel, Adobe e altre importanti aziende tecnologiche hanno iniziato a lavorare su C2PA nel febbraio 2021, nella speranza di creare un protocollo Internet universale che permetta ai creatori di contenuti di scegliere di etichettare i propri contenuti visivi e audio con informazioni sulla loro provenienza.
Il progetto è stato concepito per essere adattabile e funzionale in tutta la rete, e il codice informatico di base è accessibile e gratuito per chiunque.
Limiti
C2PA si basa sull’adesione dei creatori, il protocollo non affronta realmente il problema dei “malintenzionati” che utilizzano i contenuti generati dall’intelligenza artificiale e non ne rivelano la natura. La sfida più importante potrebbe essere quella di incoraggiare la coalizione nell’ecosistema di Internet, soprattutto da parte delle piattaforme di social media. Un altro problema riguarda i metadati: il protocollo è stato progettato in modo che una foto, ad esempio, abbia informazioni di provenienza codificate dal momento in cui la fotocamera l’ha catturata fino a quando è finita sui social media. Ma se la piattaforma di social media non utilizza il protocollo, non visualizzerà i dati di provenienza della foto.
Leggi l’articolo: Cryptography may offer a solution to the massive AI-labeling problem | MIT Technology Review
