Troll översvämmer X med falska AI-skapade bilder av Taylor Swift

Efter en världsturné som fyllde arenor, sångaren Taylor Swift är tillbaka i rubrikerna, men av mindre ädla skäl: falska bilder på sångaren, genererade av artificiell intelligens, publicerades på X (Twitter) och sågs av miljontals användare, vilket till och med orsakade sökningen efter artistens namn på det sociala nätverket vara bannad . Ta reda på mer om fallet nu.

Förstå fallet med falska bilder av Taylor Swift

Under de senaste dagarna har falska bilder av Taylor Swift – genererade av AI – med explicit innehåll cirkulerat på X, ett annat exempel på den ständiga vågen av pornografi som genereras av teknik, förutom svårigheten att begränsa detta genom plattformens moderering.

Ett av de mest sedda inläggen, som var uppe i totalt 17 timmar, fick 45 miljoner visningar, 24 XNUMX delningar och hundratusentals likes innan det togs ner och dess användare – som är verifierad på plattformen – fick ditt konto avstängt för bryter mot reglerna i X.

Men detta innehöll inte stormen av falska bilder av sångaren, som fortsatte att cirkulera på det sociala nätverket genom inlägg på andra konton, av vilka många fortfarande är tillgängliga för visning. Som ett resultat hoppade ämnet "Taylor Swift AI" till toppen av listan över mest sökta termer, vilket ytterligare förstärkte dessa falska inlägg om artisten.

Enligt webbplatsen 404 Media, de falska bilderna av Taylor Swift kan ha skapats av användare av en Telegram-grupp där bilder av explicit innehåll som involverar kvinnor skapade av Microsoft Designer delas dagligen. Medlemmar i gruppen älskade tydligen det faktum att bilderna hamnade på sociala medier, vilket gjorde ljuset av vad som hände. 

Webbplatsen uppgav att systembristerna i mekanismen för att skapa AI-bilder som fungerade som en gateway för bedrägliga bilder har korrigerats, vilket bekräftades av Artificial Intelligence Engineering Leader på Microsoft, Sarah Bird. Hon säger att utredningen i ärendet kommer att fortsätta och att verktygets säkerhetssystem kommer att förstärkas för att förhindra att det används igen för att generera bilder som Taylors.

Vad gör X åt det?

redan i X, det finns regler och policyer angående konstgjorda och manipulerade bilder, förutom nakenhet utan samtycke som förbjuder denna typ av innehåll av socialt nätverkstyp. Trots kontakt via journalistiska kanaler har företrädarna för Taylor Swift och NFL, den amerikanska fotbollsligan där hennes pojkvän Snabb, Kansas City Chiefs tight end Travis Kelce, som kommer att spela i Super Bowl nästa söndag, avböjde att kommentera saken. 

Som svar på incidenter med Snabb, X publicerade en lapp som säger att det råder nolltolerans i dessa fall av bildmissbruk och att det sociala nätverkets team aktivt arbetar för att stävja denna typ av beteende bland dess användare. Trots det fungerade inte detta som en ursäkt för sångarens miljontals fans runt om i världen, som hårt kritiserade X för att ha lämnat de falska inläggen så länge.

För att försöka ta bort de problematiska hashtaggarna började dessa fans lägga upp riktiga videor av Taylor kommer fram i ett försök att dölja de många förfalskningar som fortfarande är tillgängliga för allmänheten. 

Måttlighet i X minskar

Trots de många hindren som försöker förhindra att bilder som Taylors skapas av AI-verktyg, är utmaningen att helt förhindra att detta händer svår att övervinna, ännu mer med de långsamma och misslyckade svaren från sociala nätverk som X, vars modereringsteam har minskat sedan dess förvärv av Musk.

I Europa är X under utredning angående dess användning för att sprida desinformation och olagligt innehåll och har förhörts om försök att ta bort falsk information om konflikten mellan Israel och Hamas från plattformen som har hittats de senaste månaderna.

Tills det finns en idealisk lösning på detta allvarliga problem med integritet och individuell bild, kan du inte vara för försiktig när du lägger upp foton och videor på sociala medier, gott folk!   

SE MER:

Vad de första Apple Vision Pro-recensionerna säger

Källa: Gränsen

Granskats av Glaucon Vital den 6/2/24.