Blir kunstig intelligens menneskehetens undergang?

 © IgorZh / Shutterstock

En tidligere KI-utvikler advarer om at superintelligent KI kan få katastrofale konsekvenser for menneskeheten.

En tidligere ansatt i KI-selskapet Anthropic har advart om at kunstig intelligens kan utslette menneskeheten før tiåret er omme. Flere av bransjens toppsjefer er også bekymret. Men hva er det egentlig ekspertene frykter, og hvor mye hold er det i de dramatiske spådommene? Her får du svar.

AvMartin Lorentsen Komputer for alle

 Kunstig intelligens har utviklet seg enormt på få år. De nyeste språkmodellene kan skrive dataprogrammer, analysere store mengder informasjon og skape alle slags mer eller mindre kreative produkter.

Men den raske utviklingen vekker stor bekymring. En tidligere ansatt i KI-selskapet Anthropic, som står bak Claude, advarer mot en mulig katastrofe.

Jacob Coxon sa opp jobben som utvikler hos Anthropic og smalt døren etter seg. I ettertid har han sagt at KI-bransjen beveger seg for raskt mot såkalt superintelligens.

Han frykter at menneskene kan miste kontrollen over KI, og at det kan føre til vår undergang.

Ti prosent sannsynlighet for at KI utrydder menneskeheten

Den 9. september skrev han derfor på X at ingen av KI-selskapene opptrer ansvarlig, og at de «gambler med livene våre» i kappløpet mot superintelligens som kan forbedre seg selv.

Jacob Coxon skrev blant annet at menneskene som utvikler KI, oppriktig tror teknologien kan drepe oss alle før tiåret er omme – altså før 2030.

Lederen for Anthropics sikkerhetsavdeling, Evan Hubinger, svarte at han er enig. Han anslår selv at sannsynligheten for at kunstig intelligens utrydder menneskeheten i løpet av dette tiåret, er over 10 prosent.

Hvorfor frykter forskerne en KI-apokalypse?

Frykten for at menneskeheten skal bli utryddet, handler om såkalt superintelligent KI. Superintelligens er betegnelsen på en hypotetisk KI som er langt bedre enn mennesker til nesten alle oppgaver som krever intelligens.

Det er noe helt annet enn KI-modellene vi kjenner i dag. De kan være imponerende flinke til bestemte oppgaver, men de gjør også feil og har klare begrensninger.

Forskerne ser for seg at en superintelligent KI blant annet kan utvikle ny teknologi, skrive bedre KI-systemer og løse problemer som mennesker ikke klarer å løse selv.

Det er særlig muligheten for at KI kan forbedre seg selv som vekker bekymring: Hvis en KI kan lage en bedre versjon av seg selv, og den nye versjonen kan gjøre det samme enda raskere, kan utviklingen i teorien gå så fort at mennesker ikke lenger klarer å holde følge.

Problemer med KI finnes allerede

KI er allerede et problem for klimaet. De store KI-modellene krever enorme og svært strømkrevende datasentre. De kraftige datamaskinene må også kjøles ned, noe som krever enda mer energi og i mange tilfeller store mengder vann.

Det internasjonale energibyrået IEA anslår at verdens datasentre til sammen vil bruke rundt 945 terawattimer strøm i 2030. Det er mer enn dobbelt så mye som i 2024, og KI er den viktigste årsaken til veksten.

KI brukes allerede til svindel, nettfisking, falske bilder og videoer samt dataangrep. Kunstig intelligens gjør det lettere å skrive overbevisende meldinger og lage falskt innhold som kan være vanskelig å skille fra ekte materiale.

Kunstig intelligens kan dessuten automatisere arbeidsoppgaver som tidligere ble utført av mennesker. Det kan få stor betydning for arbeidsmarkedet.

Hvordan kan KI utrydde menneskeheten?

En superintelligent KI kan i teorien forsøke å skaffe seg tilgang til digital infrastruktur, for eksempel datamaskiner, penger, energi og andre ressurser, hvis det hjelper den til å nå målet sitt.

Hvis mennesker deretter prøver å slå den av eller begrense den, kan den bruke sin overlegne intelligens til å hindre oss. I verste fall kan den overta kontrollen over samfunnets viktigste systemer.

En superintelligens som løper løpsk, kan for eksempel utvikle og spre nye sykdommer ved hjelp av automatiserte laboratorier, hacke varslingssystemer for atomangrep og utløse atomkrig, eller sette globale forsyningskjeder ut av spill slik at vi langsomt sulter i hjel.

Vi er fortsatt vår egen verste fiende

Menneskers misbruk av KI regnes likevel som den mest nærliggende risikoen for at teknologien skal utrydde oss. Kunstig intelligens kan for eksempel gjøre det mulig for ondsinnede personer å utvikle dødelige virus eller andre biologiske våpen og automatisere dataangrep mot kritisk infrastruktur.

Mennesker kan også bruke KI til å masseprodusere feilinformasjon i stor skala og på den måten svekke samholdet og tilliten i samfunnet.

Alle disse scenarioene krever imidlertid en form for superintelligent KI som ikke finnes i dag. Kjente og populære KI-verktøy som ChatGPT, Gemini, Copilot og Claude utgjør dermed ikke i seg selv en eksistensiell trussel.

KI-sjefer vil bremse utviklingen

Bekymringen for en mulig katastrofe forårsaket av kunstig intelligens har skapt heftig debatt, og flere KI-sjefer har deltatt i diskusjonen.

Dario Amodei, som er toppsjef i Anthropic, har for eksempel oppfordret KI-bransjen til å senke tempoet i utviklingen av de mest avanserte systemene. OpenAI-sjef Sam Altman har også sagt at verden har grunn til å frykte noen av konsekvensene av svært avansert KI.

Elon Musk mener også at KI kan være farlig, og at svært intelligente KI-systemer kan forsøke å bryte seg ut av begrensningene mennesker har satt for dem. Han mener derfor at KI-selskaper bør la konkurrenter sikkerhetsteste modellene deres.

Andre maner til ro

Andre forskere og økonomer mener at dommedagsscenarioene er overdrevne. De påpeker at vi ennå ikke vet om KI i det hele tatt kan forbedre seg selv slik scenarioene forutsetter.

En av dem er Jensen Huang, som leder brikkegiganten Nvidia. Selskapet utvikler blant annet avanserte prosessorer som brukes til å trene og kjøre KI-modeller.

I et intervju med CBS News sier Huang at det er «null prosent sjanse» for at verden går under i 2030. Han kaller de dramatiske advarslene dommedagsfortellinger uten vitenskapelig grunnlag.

En annen er Gary Marcus, som har forsket på kunstig intelligens ved New York University og grunnlagt KI-selskapet Geometric Intelligence.

I et tv-intervju med CNN sa han at det er «svært, svært usannsynlig» at KI vil drepe alle mennesker før tiåret er omme. Han mener vi heller bør rette oppmerksomheten mot mer konkrete farer, som KI-skapt feilinformasjon og dataangrep.