Internettsikkerhet

AI-genererte deepfakes av Taylor Swift flommer over TikTok med svindelannonser

Svindlere bruker AI-genererte deepfakes av Taylor Swift og andre kjendiser for å promotere falske belønningsprogrammer på TikTok, noe som utgjør en økende utfordring for sosiale medieplattformer i kampen mot syntetisk media.

Hovedpunkter:

  • Svindlere benytter AI-genererte deepfakes av kjendiser som Taylor Swift og Rihanna for å promotere falske belønningsprogrammer på TikTok.
  • Disse svindelannonsene bruker ekte opptak fra intervjuer og talkshow, overlagt med AI-klonede stemmer for å fabrikere støtte til svindelskjemaer.
  • Videoene inneholder ofte TikToks offisielle merkevare for å virke legitime, men leder brukere til tredjeparts nettsteder som samler inn personlig informasjon.
  • TikTok er ikke alene om dette problemet; YouTube har tidligere fjernet over 1 000 AI-genererte svindelannonser knyttet til en enkelt annonseringsring.
  • Taylor Swift har tatt juridiske skritt for å beskytte sin stemme og sitt bilde mot uautorisert bruk, inkludert å søke varemerkebeskyttelse for sin stemme og bilde.

Svindlere utnytter nå avansert kunstig intelligens for å lage deepfakes av kjendiser som Taylor Swift og Rihanna, og bruker disse til å promotere falske belønningsprogrammer på TikTok. Ifølge en undersøkelse utført av AI-deteksjonsfirmaet Copyleaks, representerer dette en økende utfordring for sosiale medieplattformer i deres innsats for å bekjempe syntetisk media.

Disse svindelannonsene manipulerer ekte opptak fra røde løper-intervjuer, podcaster og talkshow, og overlagrer AI-klonede stemmer for å fabrikere støtte til falske inntjeningsskjemaer. I en annonse oppfordrer en AI-generert versjon av Swift seerne til å registrere seg for en tjeneste kalt "TikTok Pay", mens en fabrikkert Rihanna forteller brukerne at de "bokstavelig talt bare ser på innhold og gir din mening".

Videoene inneholder ofte TikToks offisielle merkevare for å virke legitime, men ved å klikke på dem blir brukerne omdirigert til tredjeparts nettsteder designet for å samle inn personlig informasjon. Svindlerne bruker tunge stilistiske filtre for å maskere avslørende AI-artefakter som unaturlig belysning og leppesynkroniseringsfeil.

TikTok er langt fra alene i å håndtere denne flommen av deepfakes. YouTube har tidligere fjernet over 1 000 AI-genererte svindelannonser knyttet til en enkelt annonseringsring som brukte deepfakes av Swift, Steve Harvey og Joe Rogan for å promotere Medicare-svindel, ifølge en undersøkelse av 404 Media. Disse videoene hadde samlet nesten 200 millioner visninger før de ble fjernet.

Meta har også erkjent at de daglig håndterer store mengder svindelannonser på Facebook og Instagram. En studie fra 2025 utført av Surfshark fant at deepfake-relatert svindel på sosiale medier resulterte i tap på hundrevis av millioner dollar, hvor etterligning av kjente personer sto for 80 prosent av den totale økonomiske skaden forårsaket av deepfakes.

Tradisjonelle svindelindikatorer viser seg å være utilstrekkelige ettersom AI-verktøy blir mer sofistikerte. Stemmekloningstjenester produserer nå profesjonelle resultater tilgjengelige for hvem som helst med grunnleggende tekniske ferdigheter, noe som gjør kjendis-deepfakes billige og skalerbare.

Taylor Swift har tatt juridiske skritt for å beskytte sin stemme og sitt bilde mot uautorisert bruk. Hun har søkt varemerkebeskyttelse for uttrykkene "Hey, it's Taylor Swift" og "Hey, it's Taylor", samt et bilde av henne fra en liveopptreden på hennes Eras Tour. Disse tiltakene speiler tidligere juridiske initiativer fra kjendiser som Matthew McConaughey og understreker den økende bekymringen blant offentlige personer om mangelen på regulering av AI.

For brukere anbefaler Copyleaks å være oppmerksom på unaturlige fysiske detaljer i bevegelse, lyd som ikke samsvarer med leppebevegelser, og inkonsekvent belysning. Det er også viktig å verifisere enhver kjendisstøtte uavhengig før man klikker på lenker eller deler personlig informasjon.