Abstract
L’intelligenza artificiale può acquisire i dati dell’utente, trovare connessioni non visibili da un essere umano, profilare gli utenti e puntare a persuaderli, dando vita alla Persuasive Technology (PT). Durante il processo di persuasione, la PT può utilizzare la manipolazione, trovando e utilizzando percorsi per influenzare il Sistema 1, il cervello primordiale degli individui, in assenza della loro consapevolezza, minando i loro processi decisionali. Diversi organismi internazionali ed europei hanno riconosciuto che i sistemi di IA possono utilizzare la manipolazione a un livello senza precedenti e che la manipolazione computazionale costituisce un rischio per l’autonomia e per diversi diritti fondamentali che si sovrappongono, come la privacy, l’autodeterminazione informativa e la libertà di pensiero. Tuttavia, mancano idee condivise su quali diritti fondamentali siano violati dalla manipolazione computazionale e su quali diritti fondamentali possano proteggere gli individui da essa. Il diritto di essere lasciati in pace e il diritto di avere ed esprimere un pensiero differiscono dal diritto di creare un pensiero, di avere il controllo del processo decisionale e di essere liberi da interferenze cognitive operate dalla manipolazione computazionale. Pertanto, il presente documento sostiene la necessità di riconoscere un nuovo diritto fondamentale, il diritto all’autodeterminazione mentale, adattato alle capacità senza precedenti delle tecnologie di manipolazione guidate dall’IA.
L’articolo scientifico continua qui: Persuasive Technology and computational manipulation: hypernudging out of mental self-determination | Frontiers
