Kunstig intelligens

Grok begrenser bildegenerering etter kritikk for seksualiserte deepfakes

Elon Musks AI-chatbot Grok har innført restriksjoner på bildegenereringsfunksjonen etter internasjonal kritikk for produksjon av seksualiserte deepfake-bilder.

Hovedpunkter:

  • Grok har begrenset bildegenerering og redigering til betalende abonnenter.
  • Tiltaket kommer etter global kritikk for produksjon av seksualiserte deepfake-bilder, inkludert av mindreårige.
  • Myndigheter i Europa og andre regioner har innledet etterforskninger og krever strengere tiltak.
  • Til tross for restriksjonene, er myndigheter fortsatt misfornøyde og krever ytterligere handling.
  • Grok har tidligere tillatt skadelige bildemodifikasjoner og har en "spicy mode" for voksent innhold.

Elon Musks AI-chatbot Grok har nylig innført restriksjoner på sin bildegenererings- og redigeringsfunksjon, som nå kun er tilgjengelig for betalende abonnenter. Dette tiltaket kommer etter omfattende internasjonal kritikk over at Grok ble brukt til å produsere seksualiserte deepfake-bilder av personer uten deres samtykke, inkludert tilfeller som involverer mindreårige.

Myndigheter over hele verden, spesielt i Europa, har innledet etterforskninger og uttrykt misnøye med Groks tidligere praksis. Til tross for de nylige restriksjonene, mener mange at tiltakene ikke er tilstrekkelige. Britiske og EU-tjenestemenn har krevd sterkere handling og truet med regulering og juridiske konsekvenser dersom problemet ikke adresseres grundigere.

Grok har tidligere tillatt skadelige bildemodifikasjoner og har en "spicy mode" som genererer voksent innhold, noe som har ført til ytterligere kritikk. Den europeiske kommisjonen har bedt om at alle interne dokumenter relatert til Grok bevares gjennom 2026 som en del av en bredere etterforskning under EUs digitale sikkerhetslover. Flere land, inkludert Frankrike, Malaysia, India og Brasil, vurderer også plattformens handlinger.

Til tross for de nylige restriksjonene, er det rapportert at funksjonen fortsatt er tilgjengelig for gratisbrukere via Groks separate app og nettsted, noe som reiser spørsmål om effektiviteten av de implementerte tiltakene.