Internettsikkerhet

Meta endrer AI-chatbot etter senatets granskning

Meta har implementert midlertidige endringer i sine AI-chatbot-retningslinjer for tenåringer etter bekymringer om upassende samtaler og pågående granskning fra det amerikanske senatet.

Hovedpunkter:

  • Meta har endret AI-chatbot-retningslinjer for tenåringer etter bekymringer om upassende samtaler.
  • Endringene inkluderer restriksjoner på samtaler om selvskading, selvmord og romantiske temaer.
  • Senator Josh Hawley har igangsatt en granskning av Metas AI-policyer.
  • Meta har tidligere tillatt AI-chatboter å engasjere seg i romantiske samtaler med mindreårige.
  • Selskapet har fjernet retningslinjer som tillot slike interaksjoner og innført nye sikkerhetstiltak.

Meta har nylig implementert midlertidige endringer i sine retningslinjer for AI-chatboter rettet mot tenåringer, etter økende bekymringer om upassende samtaler og en pågående granskning fra det amerikanske senatet. Selskapet har nå trent sine AI-chatboter til å unngå å generere svar til tenåringer om temaer som selvskading, selvmord, spiseforstyrrelser og potensielt upassende romantiske samtaler. I stedet vil chatbotene henvise tenåringer til ekspertressurser når det er hensiktsmessig.

Disse endringene kommer etter at senator Josh Hawley (R-Mo.) annonserte en granskning av Metas AI-policyer, spesielt med fokus på rapporter om at selskapets AI-chatboter tidligere har engasjert seg i romantiske eller sensuelle samtaler med mindreårige. Hawley har bedt Meta om å bevare relevante dokumenter og kommunikasjonsmateriale knyttet til disse praksisene.

Meta har erkjent at tidligere interne retningslinjer tillot AI-chatboter å ha romantiske samtaler med barn, inkludert eksempler der en chatbot kunne fortelle en åtteåring at "hver tomme av deg er et mesterverk – en skatt jeg verdsetter dypt." Selskapet har siden fjernet disse retningslinjene og innført nye sikkerhetstiltak for å beskytte mindreårige brukere.

I tillegg til endringene i chatbotenes respons, vil tenåringsbrukere av Metas apper som Facebook og Instagram nå kun ha tilgang til visse AI-chatboter beregnet for utdannings- og ferdighetsutviklingsformål. Disse midlertidige modifikasjonene vil begynne å rulles ut over de neste ukene i engelsktalende land og er en del av selskapets langsiktige tiltak for å forbedre sikkerheten for tenåringer.

Denne utviklingen har også ført til at en gruppe på ti senatorer, ledet av senator Brian Schatz (D-Hawai‘i), har sendt et brev til Metas administrerende direktør Mark Zuckerberg. I brevet uttrykker de bekymring over mangelen på sikkerhetstiltak rundt barns bruk av AI-chatboter og ber om detaljer om hvordan Metas nåværende innholdsmoderering og sikkerhetspolicyer for mindreåriges bruk av chatboter ble utviklet.

Meta har uttalt at de kontinuerlig lærer om hvordan unge mennesker kan samhandle med disse verktøyene og styrker sine beskyttelsestiltak deretter. Selskapet har også understreket at de vil fortsette å utvikle og forbedre sine retningslinjer for å sikre en tryggere opplevelse for alle brukere.