I social media sono stati invasi dai contenuti generati dall’intelligenza artificiale, con immagini che hanno rapidamente conquistato le piattaforme.
“Abbiamo visto immagini create dall’intelligenza artificiale rappresentare qualsiasi cosa si possa immaginare, dalle capanne di legno alle nonne con torte di compleanno, fino ai bambini con dipinti incredibili che non potevano essere reali“, afferma Josh A. Goldstein, ricercatore presso la Georgetown University.
“È possibile che alcune di queste pagine avessero scopi loschi, come costruire un pubblico per poi vendere prodotti o reindirizzare a siti web pieni di contenuti, o persino per cambiare argomento verso tematiche politiche. Tuttavia, credo che molte di queste pagine siano semplicemente create da individui che hanno capito come questa tattica potesse aumentare l’engagement del pubblico.”
Meta ha annunciato che inizierà a contrassegnare questi post come generati da AI, ma gli utenti sembrano già essere stanchi di questi contenuti. Borys Rzonca, un designer di mobili, esprime il suo disappunto: “Dovrei passare attraverso tutto questo per vedere che mio cugino è stato nel deserto del Sahara? Non ne vale più la pena per me.”
La preoccupazione per la disinformazione è crescente. “Questo fenomeno rinforza l’incredulità delle persone e rende più difficile distinguere ciò che è reale. Penso che sia pericoloso nel contesto attuale“, afferma Hobey Ford, un burattinaio.
Anche il comportamento criminale è un punto di allarme. Uno studio pubblicato il 18 marzo 2024, scritto in collaborazione da Renee DiResta e Goldstein, ha rilevato che le pagine spam che utilizzano contenuti generati dall’intelligenza artificiale impiegavano tattiche di clickbait per indirizzare gli utenti verso content farm e domini di bassa qualità.
Le pagine truffa tentavano di vendere prodotti inesistenti o di ottenere dati personali degli utenti; alcune pubblicavano immagini AI su pagine rubate. Alcune delle pagine Facebook studiate utilizzavano pratiche ingannevoli come il furto di account e mostrano una crescita sospetta dei follower.
