Flere av verdens fremste eksperter på kunstig intelligens (KI) uttrykker nå alvorlig bekymring for at den raske og ukontrollerte utviklingen av KI kan utgjøre en eksistensiell trussel mot menneskeheten.

Yoshua Bengio, ofte omtalt som en av KI-forskningens "gudfedre", advarer om at menneskeheten kan stå overfor utryddelse innen ti år dersom KI-systemer kommer ut av kontroll. Under en presentasjon ved École normale supérieure (ENS) i Paris uttalte Bengio: "Hvis ikke myndigheter griper inn, så vet jeg ikke hvordan vi skal komme oss gjennom dette." Han etterlyste strengere regulering og mer forskning på KI-sikkerhet.

Fysikkprofessor og KI-forsker Max Tegmark deler denne bekymringen. Han mener at grådighet ofte overgår sikkerhet i KI-utviklingen og advarer om at uten nødvendige lover og regler vil økonomiske interesser dominere. Tegmark uttalte til svenske SVT: "Vi er på vei forbi den 'vanlige' KI-en, mot noe vi ikke helt vet hvordan man kontrollerer."

Sam Altman, administrerende direktør i OpenAI, hevder at KI-utviklingen har nådd et punkt uten retur. I et blogginnlegg beskriver han dagens selvforbedrende KI-systemer som "på larvestadiet" sammenlignet med hva som kan komme, og advarer om at hele yrkesgrupper kan forsvinne som følge av denne utviklingen.

Ekspertene etterlyser strengere regulering og mer forskning på KI-sikkerhet for å forhindre potensielt katastrofale konsekvenser. Det er også bekymring for at KI kan brukes til å utvikle farlige våpen, som kjemiske våpen og dødelige mikroorganismer, noe som ytterligere understreker behovet for kontroll og tilsyn med teknologien.

Samlet sett peker disse advarslene på en økende erkjennelse av at KI-utviklingen må styres med forsiktighet og ansvar for å sikre menneskehetens fremtid.