Nel mondo digitale di oggi, le immagini che sembrano un mix tra fotografie e grafica computerizzata hanno invaso i nostri feed dei social media. Da scenari fantasiosi come “Shrimp Jesus” a immagini realistiche, come quella di una bambina che abbraccia un cucciolo durante un’inondazione, queste creazioni sono esempi di “AI slop”, contenuti di bassa qualità generati da strumenti di intelligenza artificiale con poca attenzione alla veridicità. Questo fenomeno si è diffuso a macchia d’olio, minacciando di sostituire materiali di maggiore qualità che potrebbero risultare più utili.

Il fenomeno dell’AI slop

L’AI slop rappresenta un fenomeno sempre più diffuso e controverso. Questo termine si riferisce a contenuti generati da intelligenza artificiale che spaziano da video, immagini, audio, fino a testi. La produzione di tali contenuti è semplice, veloce ed economica, permettendo a chiunque di inserirli sui social media per sfruttare l’attenzione degli utenti e, spesso, riuscendo a generare profitti dai contenuti basati su visualizzazioni e streaming.

Diversi tipi di AI slop
L’AI slop si manifesta sotto varie forme, ad esempio su YouTube, dove analisi recenti hanno dimostrato che molti dei canali in più rapida crescita presentano contenuti generati dall’AI. Un esempio emblematico è una band chiamata “The Velvet Sundown”, conosciuta su Spotify per i brani creati interamente da AI. Questo tipo di contenuto spesso riesce a catturare l’attenzione degli utenti, nonostante la sua qualità mediocre.

• Invasione di contenuti generati: Su piattaforme editoriali, testate e progetti aperti come Wikipedia, i contenuti generati da AI stanno mettendo sotto pressione i sistemi di moderazione, minacciando la qualità delle informazioni a disposizione del pubblico.
• Casi noti: Una delle riviste colpite è Clarkesworld, che nel 2024 ha dovuto sospendere le nuove proposte a causa dell’enorme volume di articoli generati da AI che riceveva, compromettendo la sua consueta qualità editoriale.

Danni causati dall’AI slop

L’impatto dell’AI slop è evidente in diversi settori. Durante eventi come l’uragano Helene, le immagini AI sono state utilizzate per manipolare l’opinione pubblica contro il presidente Joe Biden, dimostrando come questi contenuti possano essere strumentalizzati politicamente. Inoltre, l’AI slop rappresenta una minaccia per artisti e creatori umani, i cui lavori vengono sovrastati dai contenuti automatici, con conseguenti perdite economiche e di visibilità.

• Sfruttamento delle piattaforme social: Gli algoritmi non sono ancora in grado di distinguere efficacemente tra contenuti di alta e bassa qualità, portando a un’inflazione di contenuti mediocri che oscurano lavori originali e ben fatti.

Comportamenti dannosi e soluzioni
Gli utenti possono segnalare contenuti problematici su piattaforme social e contribuire con note comunitarie per chiarire il contesto dei contenuti AI. Per mitigare l’impatto negativo dell’AI slop, è fondamentale disporre di una moderazione più efficace e di una maggiore consapevolezza da parte del pubblico riguardo all’origine e alla qualità dei contenuti.

L’AI, pur essendo un potente strumento tecnologico, ha svelato anche il suo lato oscuro attraverso il fenomeno dell’AI slop. Mentre il mondo continua a dipendere sempre di più dai contenuti online, la sfida sarà imparare a discernere il valore reale e l’autenticità di ciò che vediamo e ascoltiamo.