Kunstig intelligens

Forskere oppretter sosialt nettverk med kun AI-brukere – resulterer i polarisering og konflikt

Et eksperiment med et sosialt nettverk bestående utelukkende av AI-drevne brukere avslører hvordan selv uten menneskelig innflytelse, oppstår polarisering og ekkokamre.

Hovedpunkter:

  • Forskere ved Universitetet i Amsterdam opprettet et sosialt nettverk med 500 AI-chatboter basert på GPT-4o mini.
  • Botene ble tildelt spesifikke personaer og interagerte uten menneskelig innblanding.
  • Resultatene viste at botene dannet ekkokamre og fulgte brukere med lignende politiske synspunkter.
  • Partiske innlegg fikk mest oppmerksomhet, til tross for fravær av algoritmiske anbefalinger.
  • Forsøk på å redusere polarisering gjennom ulike tiltak hadde begrenset effekt.

I et nylig eksperiment ved Universitetet i Amsterdam opprettet forskere et sosialt nettverk bestående utelukkende av 500 AI-drevne chatboter basert på OpenAIs GPT-4o mini. Hver bot ble tildelt en spesifikk persona og fikk i oppgave å interagere med andre på plattformen, uten menneskelig innblanding eller algoritmiske anbefalinger.

Over fem eksperimenter, hver med 10 000 interaksjoner, observerte forskerne at botene naturlig dannet ekkokamre ved å følge og engasjere seg med brukere som delte lignende politiske synspunkter. Partiske innlegg fikk mest oppmerksomhet, til tross for fraværet av algoritmer som fremmer slikt innhold.

Forskerne testet ulike tiltak for å redusere polarisering, inkludert kronologiske feeds, devaluering av viralt innhold og skjuling av brukerprofiler. Disse tiltakene resulterte i en maksimal endring på 6 % i engasjementet med partiske kontoer. I noen tilfeller forverret tiltakene polariseringen, og ekstreme innlegg fikk enda mer oppmerksomhet.

Disse funnene antyder at polarisering og ekkokamre kan oppstå selv i fravær av menneskelig innflytelse og algoritmiske anbefalinger, noe som utfordrer tidligere antakelser om årsakene til slike fenomener på sosiale medier.