L’Intrinseca Politicità dei Sistemi di IA: Analisi Critica di Daniela Tafani

In un’epoca dominata dall’ascesa dell’intelligenza artificiale, Daniela Tafani del Dipartimento di Scienze politiche dell’Università di Pisa ci invita a un’indagine approfondita sulle proprietà politiche degli AI systems. Il suo recente lavoro, “Do AI systems have politics? Predictive optimisation as a move away from liberalism, the rule of law and democracy”, è un campanello d’allarme che scuote le fondamenta etiche del nostro crescente affidamento su sistemi di ottimizzazione predittiva.

La ricerca di Tafani afferma che i sistemi IA non sono semplici strumenti neutrali: portano con sé impliciti assetti di potere che rispecchiano e rinforzano dinamiche politiche esistenti. L’adozione di tali sistemi non è una questione di design tecnologico, ma una scelta politica determinante, che può avere conseguenze profonde sul tessuto sociale.

L’impatto dei sistemi di ottimizzazione predittiva, secondo l’analisi di Tafani, è multiforme e inquietante. Questi sistemi minano il principio di autodeterminazione, trattando le persone come oggetti piuttosto che come soggetti capaci di fare scelte. Il loro utilizzo sistematico genera un ambiente in cui gli individui sono ineguali davanti alla legge e dove l’applicazione della legge diventa imprevedibile. Inoltre, tali sistemi equivalgono a una sorveglianza capillare, ponendo ogni cittadino sotto il sospetto di essere un potenziale trasgressore.

Nonostante le crescenti preoccupazioni, i sistemi di IA sono usati in vari settori, dalla valutazione del rischio pre-processuale alla polizia predittiva, dai servizi finanziari all’istruzione. Le decisioni che influenzano la vita delle persone sono basate su previsioni che possono essere errate o ingiuste, piuttosto che su valutazioni concrete e oggettive. Tafani sottolinea come siano stati sfatati i miti sull’oggettività delle decisioni algoritmiche. Questi sistemi sono stati criticati per reiterare bias e stereotipi, e spesso non sono adatti ai compiti a loro assegnati, portando a decisioni che possono essere gravemente dannose.

La conclusione di Tafani è senza appello: per preservare i valori del liberalismo e gli standard di uno stato di diritto, i sistemi di ottimizzazione predittiva non dovrebbero avere spazio nelle nostre società. In un’epoca in cui la tecnologia si intreccia sempre più con la nostra vita quotidiana, è essenziale che ci svegliamo dal “sonnambulismo tecnologico” e valutiamo attentamente le conseguenze legali, etiche e sociali degli AI systems che scegliamo di adottare o rifiutare.

Leggi l’articolo “Do AI systems have politics? Predictive optimisation as a move away from liberalism, the rule of law and democracy” completo su Zenodo:

Do AI systems have politics? Predictive optimisation as a move away from the rule of law, liberalism and democracy

In predictive optimisation systems, machine learning is used to predict future outcomes of interest about individuals, and these predictions are used to make decisions about them. Despite being based on pseudoscience, not working and unfixably harmful, predictive optimisation systems are still used by private companies and by governments. As they are based on the assimilation of people to things, predictive optimisation systems have inherent political properties that cannot be altered by any technical design choice: the initial choice about whether or not to adopt them is therefore decisive, as Langdon Winner wrote about inherently political technologies. The adoption of predictive optimisation systems is incompatible with liberalism and the rule of law because it results in people not being recognised as self-determining subjects, not being equal before the law, not being able to predict which law will be applied to them, all being under surveillance as ‘suspects’ and being able or unable to exercise their rights in ways that depend not on their status as citizens, but on their contingent economic, social, emotional, health or religious status. Under the rule of law, these systems should simply be banned. Requiring only a risk impact assessment – as in the European Artificial Intelligence Act – is like being satisfied with asking whether a despot is benevolent or malevolent: freedom, understood as the absence of domination, is lost whatever the answer. Under the AI ACT’s harm approach to fundamental rights impact assessments (perhaps a result of the “lobbying ghost in the machine of regulation”), fundamental rights can be violated with impunity as long as there is no foreseeable harm.

Immagine in copertina di Google DeepMind su Pexels.