L’intelligenza artificiale e i sistemi di decisione automatizzati (Adm) sono sistemi che spesso si basano su algoritmi opachi e possono influenzare decisioni in settori sensibili come la giustizia e la salute, con conseguenze potenzialmente disastrose a causa di pregiudizi e errori intrinseci. Gli algoritmi, addestrati su dati fallaci, possono perpetuare discriminazioni esistenti, creando ciò che è stato definito come “automazione delle disuguaglianze”.
Lo Human Error Project ha esaminato come la società civile europea stia affrontando la discriminazione automatizzata, evidenziando preoccupazioni riguardo alla razzialità, alla discriminazione e alla mancanza di trasparenza degli algoritmi. Le organizzazioni della società civile lottano per aumentare la consapevolezza pubblica sull’uso dell’AI e per limitare il potere delle grandi aziende tecnologiche. Tuttavia, c’è anche uno scetticismo riguardo alla capacità della legislazione di risolvere da sola i problemi derivanti dall’espansione dei sistemi algoritmici.
Il problema potrebbe non essere solo tecnologico ma anche politico e richiede una risposta alle disuguaglianze sistemiche perpetuate dagli algoritmi.
Leggi l’articolo completo: Le ingiustizie dell’intelligenza artificiale e le battaglie della società civile su wired.it.
Foto di Mohammad Rahmani su Unsplash.
