[Leggi la scheda sul sito di Einaudi]
Macchine Ingannevoli di Simone Natale riflette sulla comunicazione uomo-macchina come elemento essenziale per lo sviluppo delle conoscenze e delle pratiche dell’IA.
L’IA è un fenomeno sociale e storico costruito attraverso l’intreccio di conoscenze, immaginari, narrazioni, desideri e operazioni materiali. Questo è un aspetto che gli studiosi di media studies e di science and technology studies sostengono da tempo, ma ciò che Natale aggiunge al quadro è la considerazione antropologica che questo aggregato sia tenuto insieme dalla propensione dell’uomo di essere “ingannato”.
Natale trova nel concetto di “inganno banale” una forza motrice vitale dello sviluppo tecnologico del secolo scorso:
“Questo carattere ordinario dell’inganno lo rende spesso impercettibile ma anche pregno di conseguenze, permettendo a queste tecnologie di inserirsi negli strati piú profondi delle nostre abitudini quotidiane”
Simone Natale, “Macchine Ingannevoli”. Pag 12
Con “Inganno banale”, Natale si riferisce a un insieme di meccanismi e pratiche incorporati nelle tecnologie dei media e che contribuiscono alla loro integrazione nella vita quotidiana.
La tesi centrale di Natale è che l’inganno non è solo un effetto collaterale o un possibile uso malevolo dell’IA, ma un elemento costitutivo dei media moderni. Tutti i media, infatti, attingono a effetti ingannevoli: il cinema dà l’illusione di immagini in movimento attraverso la rapida successione di immagini fisse, l’hi-fi stereo crea l’effetto di uno spazio tridimensionale semplicemente attraverso due altoparlanti, e così via. L’IA non è diversa: è una serie di tecnologie che forniscono un’illusione di intelligenza.
L’inganno banale implica situazioni banali e quotidiane in cui le tecnologie e i dispositivi mobilitano elementi specifici della percezione e della psicologia dell’utente – ad esempio, nel caso dell’IA, la tendenza fin troppo umana ad attribuire un potere alle cose o una personalità alle voci.
Gli utenti non vengono ingannati maliziosamente (…) piuttosto, sono incoraggiati ad adattare le abitudini e i comportamenti sociali esistenti in modo da poter incorporare meglio l’IA nella loro vita quotidiana senza problemi, rendendo l’IA più significativa e utile per loro.
Come sottolinea Natale, è essenziale non dimenticare che l’appropriazione delle dinamiche dell’inganno banale dà agli sviluppatori e alle aziende tecnologiche il potere di influenzare e manipolare le strutture più profonde della nostra vita sociale.
Il potere psicologico della voce. Gli assistenti vocali sono un esempio significativo di queste dinamiche. L’inganno banale opera nascondendo le funzioni sottostanti delle macchine digitali attraverso una rappresentazione costruita a livello di interfaccia. La voce come interfaccia va in questa direzione ed è considerata un’interfaccia “naturale”. Alla voce, infatti, l’interfaccia tra uomo e macchina scompare
