En nylig undersøkelse har avdekket at Googles AI Overviews, som bruker generativ kunstig intelligens for å gi sammendrag av informasjon, sprer feilaktige helseråd som kan sette brukere i fare.

I ett tilfelle ble pasienter med bukspyttkjertelkreft feilaktig rådet til å unngå fet mat. Eksperter påpeker at dette er det motsatte av anbefalt praksis og kan øke risikoen for at pasienter ikke tåler behandling.

Videre ble det gitt misvisende informasjon om leverfunksjonstester, noe som kan føre til at personer med alvorlig leversykdom feilaktig tror de er friske.

Kvinner som søkte informasjon om krefttester, mottok også uriktige råd. For eksempel ble en pap-test feilaktig oppgitt som en test for vaginal kreft, noe som kan føre til at symptomer ignoreres.

Eksperter uttrykker bekymring for at AI-genererte svar kan spre feilinformasjon raskt og påvirke brukernes helse negativt. De understreker viktigheten av å søke råd fra kvalifiserte helsepersonell og pålitelige kilder.