Frykten for tenkende maskiner kommer på toppen av pandemi, atomkrig og global oppvarming: Blir de smarte nok kan de ta kontroll over verden og utslette menneskene.

Dette er ingen ny tanke. Den tsjekkiske forfatteren Karel Capek presenterte i 1921 verden for ordet "robot".

Det skjedde i skuespillet "R.U.R" der kunstige mennesker skapt for å utføre de jobbene vi ikke vil ha selv gjør opprør og utsletter menneskeheten.

Skuespillet slutter med at to av robotene utvikler følelser og forelsker seg i hverandre.

Dagens frykt for den tenkende maskin ligner scenarioet i R.U.R., og en rekke andre science fiction-dystopier: Hva om maskinene utvikler menneskelige egenskaper som egenvilje og følelser?

Kan de da vende seg mot menneskeheten med det formål å gjøre oss til slaver, eller enda verre; utrydde oss?

Det enkle svaret på disse spørsmålene er nei.

Eller for å si det med Inga Strümke, en av Norges fremste eksperter på KI: "De som ser for seg at maskinene selv har hensikter bør kule egget og gå og ta seg en kaffe", sier hun til Klassekampen.

Maskiner kan nok etterape intelligent atferd, men de vil aldri kunne få den bevissthet som er uløselig knyttet til menneskelig intelligens.

Frykten for maskiner med sin egen vilje er slik sett irrasjonell: Maskiner kan ikke gå ut over de rammene som mennesker har satt for for deres aktivitet.

La oss som eksempel ta meget omtalte ChatGPT. Treningsprogrammet som styrer dets svært menneskelignende kommunikasjon ble laget rundt 2021.

ChatGPT kan derfor ikke besvare et eneste spørsmål som har oppstått etter det tidspunktet. Enda mindre utvikle en bevissthet.

Det betyr ikke at frykten for KI er ubegrunnet, men at den handler om helt andre ting.

Det vakte oppsikt da en av de som har bidratt mest til å skape KI, Geoffrey Hinton nylig forlot Google og deretter advarte skarpt mot utviklingen.

Men hans hovedbekymring er ikke maskiner med vilje, men myndigheter uten.

Hinton hevder at Google til nå har vist stor tilbakeholdenhet når det gjelder utviklingen av KI.

Men etter at flere konkurrenter kom med sine versjoner er all forsiktighet kastet over bord, og det er innledet et uhemmet "våpenkappløp" om å bli først med å utvikle nye løsninger og oppnå markedsdominans.

I en slik situasjon etterlyser Hinton mer aktive myndigheter som griper inn og regulerer utviklingen. Og han er ikke alene.

Selv toppsjefen i eierselskapet til Google, som mye av Hintons kritikk retter seg mot, Sundar Pichai advarer nå og ber om at det utvikles et internasjonalt rammeverk mot spredningen av KI ala det man har for atomvåpen.

Inga Strümke er enig. Jeg har ropt og skreket at vi trenger et algoritmetilsyn, vi må vite hvordan algoritmene fungerer, vi trenger regulering av kunstig intelligens, sier hun til Aftenposten.

Mens Valérie Pisano, leder for Mila (Quebec Artificial Intelligence Institute) sier til The Guardian at myndighetenes lemfeldige holdning til KI ikke ville blitt akseptert på noe annet område.

Hun har åpenbart et poeng. Starter du et flyselskap, ja til og med et busselskap blir du møtt med bøker fulle av krav om sikkerhetstiltak.

Det er ikke slik med internett. Sosiale medier er over 20 år gamle, først i disse dager er EU i ferd med å få på plass et regelverk som kan regulere Facebook og de andre gigantene.

Det kan i stor grad skyldes at det tok oss lang tid å oppdage hvilke skadevirkninger sosiale medier kan ha.

Den unnskyldningen har vi ikke når det gjelder KI. Vi vet allerede mer enn nok om farene, og de åpenbart store nok til å skremme selv utviklerne av disse nye redskapene.

For det er hva dette er; redskaper som kan bli ekstremt nyttige. Men de kan også misbrukes.

Strümke sammenligner med bilen og behovet for trafikkregler. Selv har jeg tidligere brukt øksa som eksempel; den kan både sikres oss ved til bålet, og brukes til å hogge hodet av folk.

Det er vi som samfunn som må sikre oss at den primært brukes til det første og ikke det siste.

Nå er EU alt i gang med å utforme sin første KI-lov, "The Artificial Intelligence Act" så bildet er ikke helsvart.

Men det vil ta tid å få den ferdig, for dette er et ekstremt komplisert felt.

I mellomtiden vil KI ta nye gigantsteg framover, og noe egentlig tilsyn med utviklingen kommer ikke før loven er ferdig.

Fram til da må vi selv søæge for at diskusjonen holdes levende og bevisstheten høy.

For ChatGPT er bare begynnelsen. Om kort tid kan det være nesten umulig skille sant fra sant på nettet. Millioner av jobber kan være borte.

Og ny overvåkningsteknologi kan ha gjort det nesten umulig å beskytte vårt privatliv.

I 1936 tok Karel Capek og hans kone hurtigruta nordover langs kysten av Nordland.

Noe av der som imponerte ham mest var Landegode, og de knivskarpe fjellene der.

Ja så klarskårne var fjellene at Capek beskrev dem som nesten uvirkelige. Kanskje like uvirkelige som plottet i R.U.R?

Eller er også det bare nesten uvirkelig?