Kunstig intelligens

Nytt verktøy vil skjule KI-bruk i forskning

Et nytt verktøy lover å gjøre KI-generert forskningstekst vanskeligere å oppdage. Kritikere mener slike «humaniseringsverktøy» kan svekke åpenheten om hvordan vitenskapelige tekster blir til.

Hovedpunkter:

  • Khrono omtaler et verktøy som skal gjøre KI-tekst mindre synlig for detektorer.
  • Verktøyet endrer blant annet språk, formuleringer og setningsstruktur.
  • Forskere og redaktører advarer mot å bruke teknologien til å skjule KI-bruk.
  • KI-detektorer er usikre og kan også slå feil ut for menneskeskrevet tekst.
  • Retningslinjer fra tidsskrifter legger vekt på åpenhet og forfatteransvar.

Et nytt såkalt humaniseringsverktøy for akademisk tekst har satt fart i debatten om kunstig intelligens i forskningen. Verktøyet, som Khrono omtaler, markedsføres med et løfte om å fjerne eller redusere språklige spor som kan få en tekst til å fremstå som KI-generert.

Slike tjenester fungerer vanligvis ved å skrive om ordvalg, rytme, setningslengde og struktur. Målet er ikke nødvendigvis å forbedre faginnholdet, men å gjøre teksten mindre gjenkjennelig for KI-detektorer. Det er nettopp dette som gjør teknologien kontroversiell.

Kritikere peker på at det er én ting å bruke KI til språkvask, idéutvikling eller strukturering, og noe annet å forsøke å skjule at teknologien har vært brukt. Dersom en forsker bevisst bearbeider KI-generert tekst for å unngå kontroll, kan det undergrave lesernes og redaktørenes mulighet til å vurdere hvordan artikkelen er blitt til.

Samtidig er ikke spørsmålet så enkelt som at en KI-detektor kan avgjøre saken. Forskning har vist at slike detektorer kan gi både falske positive og falske negative resultater. En studie publisert i Patterns viste blant annet at tekster skrevet av personer med engelsk som andrespråk kan ha økt risiko for feilaktig å bli merket som KI-genererte.

Det betyr at fravær av et «KI-spor» heller ikke kan brukes som bevis på at en tekst er skrevet uten KI. På samme måte kan et utslag fra en detektor ikke alene dokumentere uredelighet. Detektorer kan være et støtteverktøy, men bør ikke erstatte faglig vurdering, dialog med forfattere og tydelige krav til dokumentasjon.

Internasjonale retningslinjer peker i samme retning. Committee on Publication Ethics, ICMJE og flere store vitenskapelige utgivere understreker at forfattere fortsatt har fullt ansvar for innholdet i artiklene sine, også når KI-verktøy er brukt. KI kan ikke være forfatter, fordi et språkverktøy ikke kan ta ansvar for metode, data, sitater, interessekonflikter eller konklusjoner.

For norske forskningsmiljøer er utfordringen derfor ikke bare å avgjøre om KI skal tillates. Det avgjørende er å etablere praksis som skiller mellom legitim støtte og bevisst tilsløring. Åpen opplysning om vesentlig KI-bruk gir fagfeller, redaktører og lesere bedre grunnlag for å vurdere arbeidet.

Humaniseringsverktøy kan dermed bli en del av et teknologisk kappløp mellom tekstgeneratorer og detektorer. Men flere forskningsetiske aktører mener at den mest robuste løsningen ikke er stadig mer avansert kontrollteknologi, men tydelige regler, sporbar arbeidsprosess og et personlig forfatteransvar som ikke kan automatiseres bort.