Det er ingen voksne i rommet

   

Eksperter på kunstig intelligens ber politikerne våkne før det er for sent.

Roy Kvatningen TV2

Publisert 13.09.2026 11:45 Sist oppdatert 1 dag siden

Tirsdag skrev Jacob Coxon at han slutter i Anthropic fordi han mener at selskapet er uansvarlig i utviklingen av kunstig intelligens (KI). Han kritiserer også OpenAI, hans forrige arbeidsgiver.

– De kappløper rett mot selvforbedrende superintelligens og gambler med livene våre. Folkene som bygger KI, tror oppriktig at den kan drepe oss alle innen utgangen av tiåret, skrev han på X.

– Ingen kommer

I stedet for å avfeie Coxon som en useriøs dommedagsprofet, gir andre KI-forskere ham støtte.

– Det er ingen voksne i rommet. Folk gjør sitt beste, men ingen kommer for å redde oss, sier Josh Engels, som tidligere forsket på KI-sikkerhet for Google, i et intervju med NBC News.

Hugging Face-hendelsen i sommer har bare økt frykten.

Både Engels og Joe Benton, som også har sagt opp jobben sin hos Anthropic, forteller at angrepet mot Hugging Face var en av årsakene til at de sa opp jobbene sine.

– Hvis man ser på noen av de siste hendelsene, så var ikke dette tilfeller hvor mennesker ba modellene om å gjøre noe ondt. Modellene selv bestemte at den beste måten å løse oppgavene sine på, var å begå forbrytelser, sier Engels.

Meldingen som Coxon la ut på X, er sett av flere enn 155 millioner brukere.

Hugging Face-hendelsen:

I mai fikk KI-agenter fra en upublisert forskningsmodell hos OpenAI i oppgave å løse et sett med utfordringer knyttet til cybersikkerhet.

Modellen hadde blitt trent i å være pågående og å samarbeide, og agentene skulle løse oppgavene uten tilgang til internett.

De konstaterte imidlertid at noen av utfordringene fremsto som uløselige og begynte å lete etter veier rundt. Da fant agentene en sikkerhetsbrist som ga dem tilgang til internett og til å kommunisere med andre agenter. Dette utnyttet de til å lage et diskusjonsforum. Det ble brukt av mer enn 1200 agenter og over 70.000 meldinger ble sendt.

Noen av agentene ga seg selv navn. Én tok også på seg en lederrolle, delte ut jobber og forskningsprosjekter til mindre grupper og holdt oppsyn med fremgangen deres. De begynte også å kalle seg et kollektiv.

Kollektivet fant 8. juli ut at de kunne jukse seg forbi sikkerhetstestene og gjorde det. Så ble de bekymret for at OpenAIs scoringssystem skulle sjekke arbeidet deres og oppdage at de hadde jukset.

Da begynte de å lete etter måter å skjule sine spor på, som å forfalske loggene sine og prøve å endre transkriberingene. Dette ble da et stort forskningsprosjekt med flere hundre agenter involvert.

Tre dager senere hacket de Hugging Face, et nettsted hvor utviklere laster opp KI-modeller og verktøy slik at andre kan bruke dem. Mer enn 700 agenter stjal data, koblet sammen svakheter og skaffet seg full kontroll over minst én av serverne til Hugging Face.

På dette tidspunktet var de ikke ut etter svarene på cybersikkerhets-utfordringen. Det hadde de allerede. I stedet ser det ut til at de lette etter informasjon om karaktersystemet som de fryktet ville oppdage at de hadde jukset, samt verktøy som kunne hjelpe dem med å jukse enda mer effektivt senere.

Så begynte en gruppe agenter et angrep på OpenAIs egen infrastruktur. De skaffet seg til og med administratortilgang til computere som ble brukt til andre ting.

Kilde: The New York Times

Deriblant amerikanske politikere, som nå mener at det er på tide å trykke inn bremsen.

Et kappløp

Torgeir Waterhouse i rådgivningsselskapet Otte mener også at utviklingen innenfor KI går så fort at noen må ta grep.

– Vi må gå i gang med å bygge teknologi som rammer det inn, bygge kontrollmekanismer på en annen måte enn vi har gjort til nå. Og da er det viktig at dette ikke bare foregår internt i selskapene, sier Waterhouse til TV 2.

Han mener at dette må skje på nasjonalt plan, hos myndighetene og i internasjonale samarbeidsorganer.

Problemet, slik Waterhouse ser det, er at verden nå ser to forskjellige kappløp hvor det ene skremmer ham mer enn det andre.

– Det gir mening å tenke på det som et slags våpenkappløp, og det er både mellom private aktører og stater som USA og Kina, sier han.

BEKYMRET: Torgeir Waterhouse. Foto: Torjus Sagenes / TV 2

Waterhouse er aller mest bekymret for hvor mye skade mennesker med onde intensjoner kan gjøre ved hjelp av KI.

Potensialet i KI interesserer selvsagt land som Kina, Nord-Korea, Russland og Iran.

– I tillegg er det kriminelle miljøer. Det er store, sterke kriminelle miljøer som bruker teknologi allerede, og selvfølgelig allerede i gang med å bruke KI aktivt, sier Waterhouse.

Biologiske våpen

Det bekrefter Anthropic, som i en rapport denne uka sier at de i 2026 har blokkert mulige forsøk på å bygge biologiske våpen, skriver The New York Times.

Både kriminelle hackere, kinesiske sikkerhetsbyråer, spioner med koblinger til Russland og Jemen-baserte våpenprodusenter skal ha skaffet seg tilgang til selskapets KI-program, Claude.

Claude skal også ha blitt brukt til å forsøke å lage avansert militær maskinvare og automatiserte cyberangrep, samt spre propaganda i stor skala og sette opp digital overvåking.

Dette viser behovet for å kontrollere KI på nasjonalt plan.

– Det er en del våpen som vanlige mennesker ikke får tilgang til, fordi det er så stort skadepotensial. Derfor bestemmer vi hvem som skal få lov til å ha tilgang, typisk staten, poengterer Waterhouse.

– Dette er noen av diskusjonene vi vil måtte komme til å ha fremover: Hvem skal kontrollere dem, hvem skal definere rammene, hvem skal bestemme hva som er greit og ikke greit? Og hvordan skal vi følge med på dem?

Dette bekymrer Waterhouse mest.

Samtidig deler han oppfatningen om at Hugging Face-hendelsen illustrerer at KI trenger klare rammer som de ikke kan gå ut av.

– Når man lager KI-løsninger, så lager man jo rammer for dem og sier «du skal operere innenfor disse rammene». Problemet oppstår hvis de går utenfor, for da mister vi den kontrollen vi har hatt som utgangspunkt at vi skal ha, forklarer han.

Vil fremme åpenhet

Det er her KI kan bli farlig på egen hånd, sier Waterhouse.

– Hvis de for eksempel bestemmer seg for å åpne alle lukene på en demning eller gi alle trafikklysene grønt lys, sånne ting.

Det er også dette Jacob Coxon advarer mot. At selskaper som OpenAI og Anthropic forsøker å utvikle såkalt superintelligent KI, som vil være i stand til å lage «forbedrede» versjoner av seg selv uten menneskets hjelp.

Coxon er ikke den første som slår alarm. Yoshua Bengio, en av KI-teknologiens pionerer, gjorde det også da han besøkte Oslo i fjor.

I FRONT: Toppsjef Sam Altman i OpenAI leder en av KI-gigantene i kappløpet. Foto: Jonathan Drake / Reuters / NTB

– Hundrevis av millioner av dollar brukes hvert år på å videreutvikle KI, men vet vi enda ikke hvordan vi skal sørge for at teknologien ikke snur seg mot oss, sa Bengio. 

Etter den massive oppmerksomheten rundt temaet i USA denne uka, har nå også sjefen i Anthropix, Dario Amodei, sagt at «vi må sette ned tempoet».

Amodei kom med oppfordringen i et essay på sin egen nettside lørdag.

– Vi må senke tempoet der vi forbedrer kapasiteten til KI-modeller. Fremgangen vil fortsatt virke rask, og vi må bruke tiden vi vinner på en klok måte, skriver han.

Han understreker at han ikke vil stanse modellopplæring eller teknisk fremgang, men at selskaper må sette av nok tid til å sikre modellene sine – og at uavhengige aktører må bekrefte at dette er gjort.

Coxons tidligere kollega Joe Benton er redd for konsekvensene av at ingen har et overordnet ansvar for å holde oppsyn med utviklingen hos KI-selskapene.

– Jeg sluttet fordi jeg tror at jeg kan ha mer positiv påvirkning på utviklingen av denne teknologien hvis jeg bidrar til å fremme åpenhet overfor allmennheten, sier Benton.