I en nylig rettssak i Melbourne, Australia, har advokat Rishi Nathwani, som innehar tittelen King's Counsel, offentlig beklaget etter å ha levert inn rettsdokumenter som inneholdt falske sitater og ikke-eksisterende rettsavgjørelser generert av kunstig intelligens. Feilene ble oppdaget av dommer James Elliotts assistenter, som ikke klarte å verifisere de oppgitte kildene og ba om forklaringer fra forsvarsteamet. Dette førte til en 24-timers forsinkelse i rettsprosessen.

Dommer Elliott understreket viktigheten av å verifisere AI-generert innhold og påpekte at det ikke er akseptabelt å bruke kunstig intelligens uten grundig uavhengig verifisering. Hendelsen har utløst en bredere debatt om bruken av AI i juridiske sammenhenger og behovet for strengere retningslinjer for å sikre nøyaktighet og pålitelighet i rettsprosesser.