Avevamo previsto nel Manifesto su ChatGPT e LLM di SIpEIA che i chatbot basati su LLM sarebbero stati presto integrati nei social media.
Meta (l’azienda proprietaria di Facebook, Instagram e Whatsapp) secondo il Financial Times annuncerà a settembre il lancio di una gamma di chatbot basati su intelligenza artificiale con diverse personalità.
L’obiettivo esplicito è aumentare il coinvolgimento nelle le sue piattaforme di social media.
Tre persone a conoscenza del piano hanno detto che alcuni dei chatbot, soprannominati “personas”, possono avere la forma di personaggi diversi: da Abraham Lincoln ad un agente di viaggi nello stile di un surfista. Il loro scopo sarà fornire una nuova funzione di ricerca e offrire consigli, oltre ad essere un prodotto divertente con cui le persone possono giocare.
Zuckerberg, CEO di Meta, ha detto di pensare ad una molteplicità di agenti che fungono da assistenti, coach o che possono aiutarti a interagire con aziende e creatori piuttosto che a una singola AI con cui interagiremo.
Del problema dei chatbot basati su LLM creano “relazioni sintetiche” pericolose ne abbiamo già parlato in questo articolo.
Con l’utilizzo di queste tecnologie dentro i social media si realizza però uno scenario molto più pericoloso: i chatbot verranno usati all’interno del business model dei social media, che cercano di massimizzare a tutti i costi la permanenza dell’utente sulla piattaforma, per estrarne ulteriori dati comportamentali e per esporlo il più possibile a pubblicità personalizzata in base a questi dati. Questo modello di business è quello che ha portato alla diffusione di hate speech e in generale di contenuti molto connotati emotivamente, perchè sono quelli che attraggono maggiormente gli utenti.
Utilizzare dei chatbot dalle performance che sono difficilmente distinguibili da quelle umane è un passo ulteriore in questo modello di business da 117 miliardi di dollari basato sulla pubblicità.
Come dice nell’articolo del Financial Times Ravit Dotan, consulente e ricercatrice di etica dell’IA: “Una volta che gli utenti interagiscono con un chatbot, espone davvero molti più dati all’azienda, in modo che l’azienda possa fare tutto ciò che vuole con quei dati” e questi sviluppi sollevano preoccupazioni sulla privacy e su potenziali “manipolazioni e sollecitazioni [nudging]”.
Strada simile ha già intrapreso Snapchat già da febbraio con la sua funzione “My AI”, “chatbot sperimentale e amichevole” su cui sta conducendo “test preliminari” introducendo link sponsorizzati all’interno del dialogo con il chatbot.
Nuove frontiere della pubblicità.
Ricordiamo a questo proposito il libro di Tim Wu “Attention Merchants”. Dalla creazione delle affiche pubblicitarie nella Parigi dell’800, all’irruzione della pubblicità direttamente dentro le nostre case con la radio, fino all’integrazione della pubblicità in quel dialogo fra amici che è il newsfeed di un social network, l’evoluzione della pubblicità è sempre stata una maggiore intrusione prima nello spazio pubblico e poi sempre più in quello privato. La pubblicità erogata tramite chatbot diventa l’ultima frontiera della pubblicità che entrerà direttamente dentro il dialogo con un “umano sintetico”.
ps una volta i Social Media si chiamavano Social Network. Poi quando la diffusione di contenuti virali ha sostituito il networking, cioè l’entrare in contatto con altre persone, si Social sono diventati solo dei distributori di contenuti fatti da persone con cui non abbiamo nessuna connessione. Il motivo dell’evoluzione è proprio il modello di business di cui dicevamo sopra: quello di massimizzare il tempo di permanenza dell’utente sulla piattaforma.
Con l’introduzione di chatbot con cui dialogare ci si allontana ulteriormente dalla prospettiva originaria dei social network.
