La scienziata informatica Joy Buolamwini, mentre lavorava al software di riconoscimento facciale al MIT, ha scoperto che il programma faceva fatica a rilevare la sua pelle scura, ma funzionava bene quando indossava una maschera bianca, rivelando ciò che lei ha chiamato “sguardo codificato”. Nel suo libro, “Unmasking AI: La mia missione per proteggere ciò che è umano in un mondo di macchine”, esplora le implicazioni sociali della tecnologia di parte e avverte che i sistemi di analisi facciale possono danneggiare milioni rafforzando gli stereotipi.
Buolamwini sottolinea un test di intelligenza artificiale generativa da testo a immagine, in cui le richieste per lavori ben remunerati hanno prodotto prevalentemente immagini di uomini dalla pelle più chiara, mentre le richieste per stereotipi criminali hanno generato immagini di uomini dalla pelle più scura. Sottolinea che i pregiudizi nella tecnologia possono far regredire la società anziché farla progredire.
Come fondatrice dell’Algorithmic Justice League, Buolamwini propugna il questionamento dell’adozione dei sistemi di intelligenza artificiale e assicura che essi funzionino come previsto. Condivide la sua esperienza come “poetessa del codice”, integrando la poesia nel suo lavoro per connettersi emotivamente con il pubblico e umanizzare l’impatto delle misclassificazioni.
Buolamwini esorta il presidente Biden a guidare nella prevenzione dei danni dell’intelligenza artificiale, affrontando specificamente i diritti biometrici e proteggendo gli individui dall’esposizione della propria immagine. Sottolinea la necessità di salvaguardie contro la discriminazione algoritmica e le violazioni dei diritti umani di fronte all’avanzare delle tecnologie dell’IA.
Infine, Buolamwini respinge l’idea di catastrofizzare sui pericoli futuri dell’IA, sottolineando il danno attuale e tangibile che i sistemi di intelligenza artificiale possono causare, dall’accesso alla sanità distorto a potenziali incidenti fatali con le auto a guida autonoma. Sottolinea l’importanza di considerare le conseguenze immediate e reali dell’integrazione dell’IA.
Leggi qui l’intero articolo: ‘If you have a face, you have a place in the conversation about AI,’ expert says
