Con il suo libro Everyday Chaos, David Weinberger ci vuole mettere di fronte alla crescente complessità del nostro mondo, che sta assumendo una caoticità (nel senso tecnico del termine, che vedremo sotto) sempre maggiore anche nei suoi aspetti quotidiani.
Per affrontare questo slittamento verso un mondo più caotico, in molti ambiti, soprattutto quello industriale, si è già passati alle contromisure. Si è abbandonata la pretesa, ormai quasi un’hybris, di pianificare tutto in anticipo, come se il mondo fosse regolato da leggi. Nel mondo della manifattura, si è sviluppata la produzione just in time allo scopo di evitare di sottostimare o sovrastimare la domanda proveniente dai mercati che sono essenzialmente imprevedibili. Le startup informatiche non lanciano più prodotti finiti ma solo minimum viable products che hanno le funzionalità sufficienti affinché i clienti siano disposti a pagare, ma non più di quelle. In questo modo l’azienda può vedere cosa vogliono effettivamente gli utenti e preparare una nuova versione più adatta ai loro interessi. Sempre più le aziende fanno affidamento a tecniche di sviluppo agile che permettono di introdurre più facilmente nuove idee che nascono nel corso dello sviluppo e di fronteggiare meglio le interdipendenze impreviste che nascono durante la fase di sviluppo. Si adottano open platform che forniscono dati e servizi senza tentare di anticipare ciò che gli utenti potrebbero fare con loro. Usandoli, gli sviluppatori indipendenti possono creare app e servizi mai previsti prima. I test A/B funzionano senza bisogno o senza generare ipotesi sul perché la variante A funzioni meglio di B, o viceversa, sfruttando la possibilità di accedere ad una massa critica di utenti sul web e presentando loro versioni diverse di uno stesso sito o applicazione per vedere quale variante porti a maggiori interazioni da parte degli utenti.
I test A/B funzionano meglio di una spiegazione o una legge che permetta di predire la differenza fra la reazione degli utenti alla versione A o B e sta diventando sempre più chiaro che queste leggi potrebbero non essere gli strumenti più utili per affrontare il mondo nella sua complessità.
Insomma, abbiamo impiegato gli ultimi vent’anni circa a inventare modi per evitare di dover anticipare ciò che accadrà dopo, spinti dalla percezione che ci troviamo di fronte ad un mondo sempre più complesso.
Complessità su cui ci ha aperto gli occhi il discorso del 1972 di Edward Lorenz, uno dei padri della Teoria del Caos: “Prevedibilità: Può un battito d’ali di una farfalla in Brasile causare un tornado in Texas?”. Lorenz ci ha fatto prendere coscienza che i fattori che determinano cosa succede sono così complessi, così difficili e così dipendenti dalle sfumature più fini delle situazioni, che per capirli abbiamo dovuto trasformarli finora in storie più semplici dei fenomeni stessi.
David Weinberger vede nell’AI del Deep Learning uno strumento per affrontare la complessità del mondo senza la necessità di comprenderlo tramite leggi esplicite: un sistema diagnostico basato su AI può identificare una malattia ancora nella fase iniziale di sviluppo da una lastra radiologica digitalizzata prima che un medico esperto possa accorgersene. E raggiunge questa capacità solamente imparando dagli esempi (milioni di referti digitalizzati) senza leggere nessun libro o senza che nessuno gli insegni le basi della medicina. Il prezzo da pagare è però rinunciare ad avere spiegazioni sul perché produce proprio questa diagnosi.
Ma l’AI, ci ricorda lo storico israeliano Yuval Noah Harari intervistato dal Guardian, se da un lato può aiutarci a comprendere meglio la complessità del mondo, allo stesso tempo interviene sempre più spesso nel nostro mondo, rendendolo ancora più complesso. Si pensi, ad es., alle applicazioni dell’AI nell’ambito della finanzia. Già l’hypertrading ha contribuito a creare crolli improvvisi in borsa che hanno scatenato un panico e un effetto valanga sugli indici. La crisi finanziaria del 2007-2008 è stata causata da strumenti finanziari basati su una matematica complicata come le obbligazioni di debito collateralizzate, inadeguatamente regolamentate e che hanno portato sull’orlo del baratro finanziario senza che la maggior parte degli analisti avesse capito cosa stava succedendo (qualcuno sì però). Cosa potrà succedere quando si svilupperanno prodotti finanziari basati sull’AI, performanti ma imperscrutabili?
Harari nell’intervista afferma che una crisi finanziaria creata dall’intelligenza artificiale non distruggerebbe la civiltà umana – “almeno non direttamente”, ma “potrebbe farlo, indirettamente, se innescasse certi tipi di guerre o conflitti. È un rischio catastrofico – economico, sociale, politico – ma di per sé non lo descriverei come esistenziale”.
Entreremo in un mondo che è ancora più pieno di crisi impreviste. E il problema è proprio l’imprevedibilità. A differenza di altre tecnologie come le armi nucleari, non c’è uno “scenario grande e pericoloso” che tutti capiscano, dice Harari: “Con l’intelligenza artificiale, ciò di cui stai parlando è un numero molto elevato di scenari pericolosi, ciascuno dei quali ha una probabilità relativamente piccola che, presi insieme, costituiscono una minaccia esistenziale alla sopravvivenza della civiltà umana”. La minaccia non è quindi la distruzione degli esseri umani, come temono altri, ma la creazione di un caos non più governabile con gli strumenti che abbiamo.
“L’intelligenza artificiale è diversa da ogni tecnologia precedente nella storia umana perché è la prima tecnologia che può prendere decisioni da sola, che può creare nuove idee da sola e che può apprendere e svilupparsi da sola” dice Harari “Quasi per definizione, è estremamente difficile per gli esseri umani, anche per gli esseri umani che hanno creato la tecnologia, prevedere tutti i potenziali pericoli e problemi”.
Lo strumento con cui cerchiamo di fare previsioni nel caos della natura sono le leggi scientifiche basate su formule matematiche, mentre lo strumento principale con cui governiamo il caos quotidiano delle nostre società sono le leggi del diritto. Che però sono relativamente statiche e generali. Nel voler regolare una società sempre più complessa con delle leggi fisse ci macchiamo dello stesso peccato di hybris di chi vuole pianificare tutto in anticipo?
Le aziende, da quelle manufatturiere a quelle informatiche hanno con buone ragioni e risultati abbandonato questa velletarietà. Ma possiamo applicare uno degli approcci descritti sopra da Weinberger al diritto?
Vero è che accanto alle norme promulgate dai parlamenti e per questo meno dinamiche c’è il meccanismo dell’azione dei giudici che tramite le loro sentenze (una delle fonti del diritto) interpretano le norme applicandole ai casi meno chiaramente rientranti in quanto prescrive la norma. Però l’azione del giudice deve comunque rientrare nell’alveo più generale della norma che interpretano e dei principi che l’hanno ispirata.
Ma di fronte ad un fenomeno come l’AI che introduce nuove complessità nel mondo e che per di più progredisce rapidamente nel tempo, potrebbe essere che un meccanismo basato su leggi non funzioni più neanche nel mondo delle nostre società. Dobbiamo anche qui inventare nuove soluzioni per fronteggiare la crescente complessità? Non però soluzioni basate su AI perché si aggiungerebbe ulteriormente complessità al problema che si vuole risolvere.
Questa la soluzione proposta da Harari per regolare l’AI: “Dobbiamo creare il più velocemente possibile istituzioni di regolamentazione potenti che siano in grado di identificare e reagire ai pericoli non appena si presentano, partendo dalla consapevolezza che non possiamo prevedere tutti i pericoli e i problemi in anticipo e legiferare contro di essi in anticipo”. “Questo dovrebbe essere lo sforzo principale, non lo sforzo di scrivere ora un regolamento molto lungo e complicato che, quando passerà al parlamento o al congresso, potrebbe essere obsoleto”.
Obsoleto ma soprattutto non in grado di gestire la complessità di un mondo reso più caotico dall’AI.
Andiamo verso un mondo con (una versione AI del) Giudice Dredd, il tutore della legge a cui è stato conferito il potere di giudice, giuria e giustiziere nella distopica metropoli Mega-City One protagonista dell’omonimo fumetto su 2000 AD nel 1977 e del film del 2012 con Silvester Stallone?
