Ogni giorno riponiamo fiducia in migliaia di persone. Quando saliamo su un taxi o un aereo, quando mangiamo al ristorante o facciamo acquisti al supermercato. È un atto di fede necessario per il funzionamento della società.
Ma presto, con l’avvento dell’intelligenza artificiale, commetteremo un errore: penseremo alle AI come amici, mentre sono solo servizi. Confonderemo la fiducia interpersonale con quella sociale. E le grandi aziende che controlleranno questi sistemi approfitteranno della confusione.
Le AI avranno un’interfaccia relazionale, parleremo con loro naturalmente come con una persona. Saranno più intime, conosceranno i nostri gusti e preferenze. Sembreranno persone di fiducia, ma non lo saranno. Perché saranno costruite per massimizzare i profitti, non per aiutarci.
Senza una regolamentazione, saremo esposti a varie forme di sfruttamento. L’interfaccia amichevole maschererà secondi fini. Non sapremo come sono addestrate, i loro pregiudizi, le distorsioni. E non avremo scelta se non affidarci a loro.
Spetta ai governi creare un ambiente di fiducia. Servono leggi sulla trasparenza delle AI, sulla loro sicurezza. E sanzioni per garantire un comportamento affidabile. Bisogna regolare le aziende, non le macchine. E servono modelli pubblici, controllati dalla società.
Solo così le AI diventeranno servizi degni di fiducia, non amici ingannatori. La tecnologia va guidata per il bene comune. Sta alla politica garantire che ciò avvenga.
Fonte: Ai and Trust (Schneier)
