Falska och explicita bilder av Taylor Swift sveper över sociala nätverk

Falska, sexuellt explicita bilder av Taylor Swift som troligen genererats av artificiell intelligens spreds snabbt på sociala medieplattformar den här veckan och störde fans som såg dem och återuppväckte uppmaningar från lagstiftare att skydda kvinnor och slå ner på kvinnor, plattformar och teknik som sprider sådana bilder.

En bild som delas av en användare på X, tidigare Twitter, sågs 47 miljoner gånger innan kontot stängdes av på torsdagen. X stängde av flera konton som lade upp falska bilder på Swift, men bilderna delades på andra sociala medieplattformar och fortsatte att spridas trots dessa företags försök att ta bort dem.

Medan X sa att han arbetade med att ta bort bilderna, översvämmade fans av popsuperstjärnan plattformen i protest. De publicerade relaterade sökord, tillsammans med frasen “Skydda Taylor Swift”, i ett försök att överrösta de explicita bilderna och göra dem svårare att hitta.

Reality Defender, ett cybersäkerhetsföretag fokuserat på AI-detektion, fastställde med 90 procents tillförsikt att bilderna skapades med hjälp av en diffusionsmodell, en AI-driven teknik som är tillgänglig genom mer än 100 000 allmänt tillgängliga applikationer och modeller. sa Ben Colman, medförfattare till företaget. grundare och VD.

I takt med att AI-branschen har vuxit har företag varit snabba med att släppa verktyg som låter användare skapa bilder, videor, text och ljudinspelningar med enkla uppmaningar. Verktyg för artificiell intelligens är enormt populära, men de har gjort det enklare och billigare än någonsin att skapa så kallade deepfakes, som skildrar människor som gör eller säger saker de aldrig har gjort.

Forskare fruktar nu att djupförfalskningar håller på att bli en kraftfull kraft av desinformation, vilket gör att vanliga internetanvändare kan skapa nakenbilder utan samtycke eller pinsamma skildringar av politiska kandidater. Artificiell intelligens användes för att skapa falska robocall från president Biden under primärvalet i New Hampshire, och Swift dök upp denna månad i falska annonser som sålde köksredskap.

“Det har alltid funnits en mörk ström på Internet, pornografi utan samtycke av olika slag”, säger Oren Etzioni, professor i datavetenskap vid University of Washington som arbetar med deepfake-detektering. “Nu är det en ny stam som är särskilt skadlig.”

“Vi kommer att se en tsunami av dessa explicita AI-genererade bilder. Människorna som skapade det här ser det som en framgång”, sa Etzioni.

X sa att det hade en nolltoleranspolicy mot innehåll. “Våra team tar aktivt bort alla identifierade bilder och vidtar lämpliga åtgärder mot de konton som är ansvariga för att lägga upp dem”, sa en representant i ett uttalande. “Vi övervakar situationen noga för att säkerställa att eventuella ytterligare överträdelser åtgärdas omedelbart och att innehållet tas bort.”

Personalen som arbetade med att ta bort innehållet. Plattformen återinförde även konton som tidigare hade förbjudits för att ha brutit mot reglerna.

Även om många av företagen som producerar generativa AI-verktyg förbjuder sina användare att skapa explicita bilder, hittar folk sätt att bryta mot reglerna. “Det är en kapprustning, och det verkar som att varje gång någon kommer med ett skyddsräcke så kommer någon annan på hur man kan fly”, sa Etzioni.

Bilderna härstammar från en kanal på meddelandeappen Telegram som är dedikerad till att producera dessa typer av bilder, enligt 404 Media, en tekniknyhetssajt. Men deepfakes väckte stor uppmärksamhet efter att ha publicerats på X och andra sociala medietjänster, där de spreds snabbt.

Vissa stater har begränsat pornografiska och politiska deepfakes. Men restriktionerna har inte haft någon stark inverkan och det finns inga federala regler för denna typ av förfalskning, sa Colman. Plattformar har försökt ta itu med deepfakes genom att be användarna att rapportera dem, men den metoden har inte fungerat, tillade han. När de flaggas har de redan setts av miljontals användare.

“Tandkrämen är redan ute ur tuben”, sa han.

Swifts publicist, Tree Paine, svarade inte omedelbart på förfrågningar om kommentarer torsdag kväll.

Ms Swifts djupa förfalskningar utlöste nya uppmaningar till åtgärder från lagstiftare. Rep. Joe Morelle, en demokrat i New York som lade fram ett lagförslag förra året som skulle göra sådan bilddelning till ett federalt brott, sa den X att spridningen av bilderna var “förfärande”, och tillade: “”Det händer kvinnor överallt, varje gång dag.” .”

“Jag har upprepade gånger varnat för att AI kan användas för att generera intima bilder utan samtycke,” sa senator Mark Warner, demokrat från Virginia och ordförande för senatens underrättelsekommitté, om bilderna av X. “Detta är en bedrövlig situation. “

Representanten Yvette D. Clarke, demokrat från New York, sa att framsteg inom artificiell intelligens hade gjort skapandet av deepfakes enklare och billigare.

“Det som hände med Taylor Swift är inget nytt”, sa han.

Leave a Reply

Your email address will not be published. Required fields are marked *