I troll inondano X con false immagini di Taylor Swift create dall'intelligenza artificiale

Dopo un tour mondiale che ha riempito gli stadi, il cantante Taylor Swift è tornato agli onori della cronaca, ma per ragioni meno nobili: immagini false della cantante, generate dall'intelligenza artificiale, sono state pubblicate su X (Twitter) e viste da milioni di utenti, tanto da causare addirittura la ricerca del nome dell'artista sul social network essere bannato . Scopri di più sul caso adesso.

Comprendere il caso delle immagini false di Taylor Swift

Negli ultimi giorni, su X sono circolate immagini false di Taylor Swift, generate dall'intelligenza artificiale, con contenuti espliciti, un altro esempio della costante ondata di pornografia generata dalla tecnologia, oltre alla difficoltà di contenerla tramite la moderazione della piattaforma.

Uno dei post più visti, rimasto attivo per un totale di 17 ore, ha ricevuto 45 milioni di visualizzazioni, 24 condivisioni e centinaia di migliaia di Mi piace prima di essere rimosso e il suo utente, che è verificato sulla piattaforma, ha sospeso l'account per violando le regole del X.

Ma questo non ha fermato la tempesta di immagini false del cantante, che hanno continuato a circolare sul social network attraverso post su altri account, molti dei quali sono ancora visibili. Di conseguenza, l’oggetto “Taylor Swift AI” è balzato in cima all’elenco dei termini più cercati, il che ha ulteriormente rafforzato questi falsi post sull’artista.

Secondo il sito 404 media, le immagini false di Taylor Swift potrebbe essere stato creato dagli utenti di un gruppo Telegram in cui vengono condivise quotidianamente immagini di contenuti espliciti che coinvolgono donne create da Microsoft Designer. Apparentemente i membri del gruppo hanno apprezzato il fatto che le immagini siano finite sui social media, facendo luce su quanto accaduto. 

Il sito web ha dichiarato che i difetti di sistema nel meccanismo di creazione delle immagini AI che fungevano da gateway per immagini fraudolente sono stati corretti, cosa confermata dall'Artificial Intelligence Engineering Leader presso Microsoft, Sarah Bird. Lei afferma che l'indagine sulla questione continuerà e che i sistemi di sicurezza dello strumento saranno rafforzati per evitare che venga utilizzato nuovamente per generare immagini come quella di Taylor.

Cosa sta facendo X a riguardo?

voi X, esistono regole e politiche relative alle immagini artificiali e manipolate, oltre alla nudità non consensuale, che vietano questo tipo di contenuti di tipo social network. Nonostante i contatti attraverso i canali giornalistici, i rappresentanti di Taylor Swift e NFL, il campionato di football americano in cui partecipa il suo ragazzo SwiftIl tight end dei Kansas City Chiefs Travis Kelce, che giocherà il Super Bowl domenica prossima, ha rifiutato di commentare la questione. 

In risposta agli incidenti con Swift, X ha pubblicato una nota in cui afferma che c'è tolleranza zero in questi casi di abuso d'immagine e che i team del social network stanno lavorando attivamente per frenare questo tipo di comportamento tra i suoi utenti. Anche così, questo non è servito come scusa per i milioni di fan del cantante in tutto il mondo, che hanno criticato ferocemente X per aver lasciato i post falsi per così tanto tempo.

Per cercare di eliminare gli hashtag problematici, questi fan hanno iniziato a pubblicare video reali Taylor farsi avanti nel tentativo di nascondere i numerosi falsi ancora disponibili al pubblico. 

La moderazione in X sta diminuendo

Nonostante i numerosi ostacoli che cercano di impedire che immagini come quella di Taylor vengano create dagli strumenti di intelligenza artificiale, la sfida di impedire completamente che ciò accada è difficile da superare, soprattutto con le risposte lente e infruttuose dei social network come X, il cui team di moderazione ha è stato ridotto dalla sua acquisizione da parte di Musk.

In Europa, X è sotto indagine per il suo utilizzo per diffondere disinformazione e contenuti illegali ed è stato interrogato sui tentativi di rimuovere dalla piattaforma informazioni false riguardanti il ​​conflitto tra Israele e Hamas rinvenute negli ultimi mesi.

Fino a quando non ci sarà una soluzione ideale a questo grave problema della privacy e dell'immagine individuale, non si sarà mai abbastanza attenti quando si pubblicano foto e video sui social media, gente!   

VEDI ALTRO:

Cosa dicono le prime recensioni di Apple Vision Pro

Fonte: La Verge

Recensito da Glaucone Vitale il 6/2/24.