La crescente diffusione di nuovi sistemi sociotecnici digitali basati sull’intelligenza artificiale (IA), come i social media, la pubblicità di microtargeting e gli algoritmi di ricerca personalizzati, ha portato a nuovi modi di interagire con gli utenti, raccogliere i loro dati sino ad influenzare il comportamento.
Queste tecnologie hanno, inevitabilmente, sollevato preoccupazioni sul loro potenziale di manipolazione, in quanto offrono strumenti senza precedenti per indirizzare ed influenzare il comportamento degli individui su larga scala ed in modo più sottile, automatizzato e pervasivo che mai.
Quattro i requisiti chiave per questa manipolazione: intenzionalità, asimmetria dei risultati, non trasparenza e violazione dell’autonomia.
Sebbene la manipolazione non sia un fenomeno nuovo, la pervasività, l’automaticità e l’opacità di alcune tecnologie digitali stanno conducendo ad un nuovo tipo di manipolazione, chiamato appunto “manipolazione digitale”. Si tratta di qualsiasi influenza esercitata attraverso l’uso della tecnologia digitale, intenzionalmente progettata per bypassare la ragione e per produrre un’asimmetria di risultato tra il processore di dati (o una terza parte che ne beneficia) e l’interessato.
Attingendo alle intuizioni della psicologia, della sociologia, oltrechè dell’informatica, si identificano i fattori chiave che possono rendere la manipolazione più o meno efficace, non senza potenziali rischi.
La manipolazione attraverso l’IA, e le tecnologie digitali associate, non è qualitativamente diversa dalla manipolazione attraverso l’interazione umana. Tuttavia, alcune caratteristiche funzionali rendono potenzialmente più probabile riuscire ad evadere le difese cognitive del soggetto.
Questo potrebbe aumentare la probabilità e la gravità della manipolazione. Inoltre, potrebbe violare alcuni principi fondamentali di libertà e dominio mentale di una persona, ovvero i c.d. neurodiritti.
Leggi l’articolo completo:
On Artificial Intelligence and Manipulation – Springer Link
Immagine di copertina via DuckDuckGo
