In una foto, un uomo si inginocchia in una segheria all’aperto accanto al suo accurato lavoro: una scultura intricata del suo bulldog, di cui va molto orgoglioso. La didascalia su Facebook recita: “Fatto con le mie mani”. L’immagine ha 1.300 mi piace, 405 commenti e 47 condivisioni. Tuttavia, tutte queste immagini sono generate da intelligenza artificiale e rubate all’artista Michael Jones.
Queste immagini, presentate come “monumenti di legno al mio cane”, sono pubblicate su diverse pagine di Facebook con l’inganno per ottenere interazioni. La truffa coinvolge varianti dell’uomo e del cane, entrambi falsi, e le immagini sono condivise da pagine di meme con nomi come “Go Story” e “Amazing World”.
Nonostante l’evidenza visibile di artificialità, molti utenti nei commenti si dimostrano ignari, elogiando il lavoro. La situazione evidenzia il dilagare di contenuti generati da AI su Facebook, senza alcun controllo sulla distinzione tra contenuto reale e generato artificialmente.
L’opera originale del bulldog è stata creata da Michael Jones, uno scultore professionista con sega a catena. Tuttavia, le immagini sono ora utilizzate per truffare utenti su Facebook, con link spam per acquisti di prodotti correlati nei commenti.
La truffa si basa sull’uso dell’IA “image-to-image”, che genera nuove immagini basate su input. Gli utenti possono selezionare la “forza” dell’immagine risultante. La situazione ha portato ad una comunità su Facebook, “Um, isn’t that AI?”, che documenta e combatte la diffusione di immagini AI rubate su Facebook.
Il gruppo, compreso il fondatore Molly Huxley e il membro attivo Catherine Hall, cerca di tracciare le versioni rubate di immagini AI su Facebook. Hall ha creato fogli di calcolo dettagliati, dimostrando che molte immagini AI sono derivate da opere originali di artisti. Il gruppo sospetta che le grandi pagine coinvolte possano vendere account o passare a disinformazione politica.
Inoltre, si evidenzia il pericolo a lungo termine di generare immagini AI altamente distorte, con conseguenze negative sulla percezione della realtà. L’avanzamento tecnologico potrebbe rendere le immagini AI sempre più fotorealistiche, mettendo a rischio la capacità di distinguere realtà e finzione nella società e nella democrazia.
Leggi qui l’intero articolo: Facebook Is Being Overrun With Stolen, AI-Generated Images That People Think Are Real
