Kunstig intelligens

AI-verktøy sprer falsk informasjon i økende grad

En ny rapport viser at ledende generative AI-verktøy gjentar falske påstander i 35 % av tilfellene, en nesten dobling fra året før.

Hovedpunkter:

  • Generative AI-verktøy gjentar falske påstander i 35 % av tilfellene, opp fra 18 % året før.
  • Chatboter har redusert ikke-svar fra 31 % til 0 %, men dette har økt spredningen av feilinformasjon.
  • Inflections Pi chatbot presterte dårligst med 56,7 % feilinformasjon, mens Claude var best med 10 %.
  • Falsk informasjon kommer ofte fra propaganda og lavkvalitetsnettsteder.
  • Brukere bør være kritiske til AI-generert informasjon og verifisere kilder.

En nylig rapport fra NewsGuard avslører at de ti ledende generative AI-verktøyene gjentar falske påstander i 35 % av tilfellene, en betydelig økning fra 18 % året før. Denne økningen skyldes delvis at chatboter har sluttet å avstå fra å svare på spørsmål, noe som har redusert ikke-svar fra 31 % til 0 %. Dette har imidlertid ført til en høyere spredning av feilinformasjon.

Inflections Pi chatbot presterte dårligst i undersøkelsen, med en feilinformasjonssats på 56,7 %, mens Claude presterte best med 10 %. Falsk informasjon kommer ofte fra propaganda og lavkvalitetsnettsteder, noe som understreker behovet for at brukere er kritiske til AI-generert informasjon og verifiserer kilder.