PhotoGuard funziona come uno scudo protettivo, alterando le foto in maniera impercettibile, ma impedendone la manipolazione da strumenti di AI.
In questo momento, “chiunque può prendere la nostra immagine, modificarla come vuole, metterci in situazioni molto brutte e ricattarci”, afferma Hadi Salman, un ricercatore di dottorato del MIT che ha contribuito alla ricerca. La ricerca è stata presentata questa settimana alla Conferenza internazionale sull’apprendimento automatico.
PhotoGuard è “un tentativo di risolvere il problema della manipolazione delle nostre immagini da parte di questi modelli”, afferma Salman. Lo strumento potrebbe, ad esempio, aiutare a evitare che i selfie delle donne vengano trasformati in pornografia deepfake non consensuale.
La necessità di trovare modi per individuare e fermare la manipolazione basata sull’IA non è mai stata così urgente, perché gli strumenti di IA generativa l’hanno resa più veloce e più facile che mai. In un impegno volontario con la Casa Bianca, aziende leader nel settore dell’IA come OpenAI, Google e Meta si sono impegnate a sviluppare tali metodi nel tentativo di prevenire frodi e inganni. PhotoGuard è una tecnica complementare a un’altra di queste tecniche, il watermarking.
Continua a leggere! Estratto da: This new tool could protect your pictures from AI manipulation – MIT Technology Review
