OpenAI ha sviluppato uno strumento di clonazione vocale chiamato Voice Engine, capace di replicare in modo convincente la voce di una persona utilizzando solo 15 secondi di registrazione audio. Tuttavia, l’azienda ha deciso di ritardare il rilascio pubblico della tecnologia per evitare il rischio di diffusione di disinformazione, specialmente in un anno di elezioni globali.
L’azienda ha condiviso alcuni casi d’uso della tecnologia da parte di partner, come la società di tecnologia educativa Age of Learning e l’app HeyGen, che offre traduzioni fluide mantenendo l’accento e la voce originali.
OpenAI ha sottolineato l’importanza di educare il pubblico sulle capacità e i limiti delle tecnologie AI, oltre a proporre politiche per proteggere l’uso delle voci individuali nell’IA.
Voice Engine offre un’innovativa capacità di clonazione vocale, ma non è l’unica. Ci sono già concorrenti sul mercato che possono generare cloni vocali completi con pochi minuti di registrazione audio. Per mitigare il rischio di danni, alcune aziende hanno implementato misure di sicurezza, come il rilevamento e la prevenzione della creazione di cloni vocali di politici coinvolti nelle elezioni presidenziali o prime ministeriali.
Leggi l’articolo completo: OpenAI deems its voice cloning tool too risky for general release su theguardian.com.
Foto di Andrew Neel su Unsplash.
