Kunstig intelligens

KI-forsker advarer om at kunstig intelligens kan komme ut av kontroll

Yoshua Bengio, en av verdens fremste forskere på kunstig intelligens, uttrykker bekymring for at KI-systemer kan komme ut av kontroll og utgjøre en eksistensiell trussel mot menneskeheten.

Hovedpunkter:

  • Yoshua Bengio advarer om at KI-systemer kan komme ut av kontroll og true menneskeheten.
  • Han etterlyser strengere regulering og mer forskning på KI-sikkerhet.
  • KI kan potensielt brukes til å utvikle kjemiske våpen og dødelige mikroorganismer.
  • Bengio frykter at mennesker kan miste kontrollen over KI innen ti år.
  • Andre eksperter mener bekymringen er overdrevet og peker på KI's potensielle fordeler.

Yoshua Bengio, en av verdens ledende forskere innen kunstig intelligens (KI), har nylig uttrykt alvorlig bekymring for at KI-systemer kan komme ut av menneskelig kontroll og utgjøre en eksistensiell trussel mot menneskeheten. Under en presentasjon ved École normale supérieure (ENS) i Paris la Bengio frem en omfattende rapport om KI og risiko, hvor han understreket behovet for strengere regulering og økt forskning på KI-sikkerhet.

Bengio påpeker at KI-teknologi kan misbrukes til å utvikle kjemiske våpen og dødelige mikroorganismer, og advarer om at mennesker kan miste kontrollen over KI-systemer innen ti år. Han oppfordrer myndigheter til å gripe inn for å forhindre potensielle katastrofale konsekvenser.

Andre eksperter, som Yann LeCun, leder for KI-utvikling hos Meta, mener imidlertid at slike bekymringer er overdrevet og fremhever KI's potensielle fordeler, blant annet innen medisin.