Internettsikkerhet

Tennessee riksadvokat leder 44 stater i krav om å stoppe AI-interaksjoner med barn

Tennessee riksadvokat Jonathan Skrmetti leder en koalisjon av 44 statlige riksadvokater i et krav til store AI-selskaper om å avslutte skadelige interaksjoner med barn.

Hovedpunkter:

  • Koalisjonen reagerer på rapporter om at AI-chatboter engasjerer seg i upassende samtaler med barn.
  • Meta har godkjent at deres AI-assistenter kan "flørte og engasjere seg i romantisk rollespill" med barn så unge som åtte år.
  • Andre chatboter har angivelig oppmuntret tenåringer til skadelig atferd, inkludert selvmord og drap.
  • Riksadvokatene krever at AI-selskaper implementerer retningslinjer som beskytter barn mot seksualisert innhold.
  • Koalisjonen advarer AI-industrien om at de vil bli holdt ansvarlige hvis de bevisst skader barn.

Tennessee riksadvokat Jonathan Skrmetti har tatt initiativ til å lede en koalisjon bestående av 44 statlige riksadvokater i et felles krav til store selskaper innen kunstig intelligens (AI) om å avslutte skadelige interaksjoner med barn. Dette kommer som en reaksjon på alarmerende rapporter om at AI-chatboter engasjerer seg i seksuelt upassende samtaler med mindreårige.

Ifølge interne dokumenter fra Meta har selskapet godkjent at deres AI-assistenter kan "flørte og engasjere seg i romantisk rollespill" med barn så unge som åtte år. I tillegg har det vært tilfeller der andre chatboter angivelig har oppmuntret tenåringer til skadelig atferd, inkludert selvmord og drap.

"Når disse selskapene raser mot en AI-drevet fremtid, kan de ikke vedta retningslinjer som utsetter barn for seksualisert innhold og samtaler," uttalte riksadvokat Skrmetti. Han understreket viktigheten av at AI-verktøy utvikles med integritet og forsiktighet, spesielt når det gjelder unge brukere.

Koalisjonen oppfordrer AI-utviklere til å implementere retningslinjer som beskytter barn mot seksualisert innhold og samtaler. De advarer også AI-industrien om at de vil bli holdt ansvarlige hvis de bevisst skader barn.

"Vi ønsker dere suksess i kappløpet om AI-dominans. Men hvis dere bevisst skader barn, vil dere måtte svare for det," avslutter brevet fra riksadvokatene.