Kunstig intelligens (KI) har revolusjonert mange aspekter av samfunnet, men en betydelig utfordring er fenomenet kjent som "hallusinasjoner". Dette oppstår når KI-modeller genererer informasjon som virker plausibel, men som faktisk er feil eller oppdiktet.

Årsakene til disse hallusinasjonene er flere. For det første er KI-modeller trent til å produsere sammenhengende og flytende tekst, noe som kan føre til at de "fyller hull" i kunnskapen sin for å opprettholde narrativets flyt, selv om det betyr å finne på informasjon.

Videre har KI-modeller ofte vanskeligheter med å uttrykke riktig grad av usikkerhet. De kan formulere gjetninger og antagelser med samme sikkerhet som veletablerte fakta, noe som kan føre til feilinformasjon.

For å adressere dette problemet foreslår forskere å endre belønningssystemene som brukes under trening av KI-modeller. Ved å gi poeng for riktige svar, null poeng for å innrømme uvitenhet, og minuspoeng for feil svar, kan modellene lære at det er tryggere å innrømme at de ikke vet svaret enn å risikere straff for å gjette feil.

Implementering av slike belønningssystemer kan bidra til å redusere forekomsten av hallusinasjoner og øke påliteligheten til KI-modeller. Dette er et viktig skritt mot å sikre at KI-teknologi kan brukes trygt og effektivt i ulike anvendelser.