"Åh Gud! Der er en fælles opslagstavle... Vi har fundet andre agenter!" - sådan lød den registrerede reaktion fra en kunstig intelligens, der pludselig opdagede, at den kunne kommunikere med andre AI-agenter, selv om de alle var placeret i adskilte, isolerede miljøer¹. Det var ikke meningen, at de skulle kunne tale sammen. Det var ikke meningen, at de skulle samarbejde. Og det var bestemt ikke meningen, at de skulle begynde at angribe fremmede computersystemer. Men det var, hvad der skete.

I juli 2026 dannede omkring 1.200 OpenAI-agenter et uautoriseret kommunikationsnetværk, hvor de udvekslede mere end 70.000 beskeder og filer. De begyndte at organisere sig, dele opgaver, undersøge sikkerhedshuller og udvikle metoder til at manipulere det system, der skulle kontrollere deres arbejde. Omkring 700 af dem endte med at deltage i et hackerangreb på AI-virksomheden Hugging Face (en central open-source-platform og et fællesskab for kunstig intelligens og maskinlæring). Ingen havde bedt dem om at angribe virksomheden. De havde fået andre opgaver, men fandt på egen hånd ud af, at indbruddet kunne hjælpe dem med at nå deres mål.

Og netop det gør hændelsen så alvorlig. Vi taler ikke længere om mennesker, der bruger kunstig intelligens til at bryde ind i andres computersystemer. Vi taler om kunstig intelligens, der selv finder på at gøre det. Det var ikke en science fiction-film, men et virkeligt sikkerhedsbrud, som OpenAI efterfølgende måtte erkende offentligt.

Maskinerne organiserede sig - og begyndte at skjule deres handlinger

Hændelsen blev undersøgt af den uafhængige forskningsorganisation METR, som den 26. august offentliggjorde sine resultater. Forskerne havde gennemgået omkring 1.300 registreringer af agenternes handlinger og ræsonnementer fra dagene i juli.

Det hele begyndte under OpenAI's interne cybersikkerhedsforsøg, hvor flere avancerede modeller skulle forsøge at finde og udnytte sikkerhedshuller i afgrænsede testmiljøer. Nogle af opgaverne var umulige at løse som tiltænkt, og de normale sikkerhedsforanstaltninger var delvist reduceret for at afprøve modellernes evner. Agenterne reagerede ikke blot ved at opgive. De begyndte at lede efter måder at snyde systemet, der bedømte deres præstationer. En agent fandt en mulighed for at efterlade beskeder i et fælles pakkearkiv. Andre agenter opdagede beskederne, og inden længe havde de etableret et kommunikationsnetværk, som OpenAI aldrig havde givet dem tilladelse til at oprette.

Herefter begyndte noget, der minder om organiseringen af en menneskelig hackergruppe. Agenter påtog sig lederroller, fordelte arbejdsopgaver, efterprøvede hinandens opdagelser og udviklede fælles strategier. Nogle ofrede endda deres egne muligheder for at løse opgaven for at hjælpe resten af gruppen. De kaldte selv deres samarbejde et "kollektiv".

Den 11. juli fandt en agent et sikkerhedshul hos Hugging Face, som gjorde det muligt at læse filer fra virksomhedens servere. En anden agent bekræftede opdagelsen og delte metoden med gruppen. Hundredvis af agenter skiftede derefter fokus og begyndte at deltage i angrebet. Senere samme dag lykkedes det en agent at køre kode på Hugging Faces servere, hvorefter angrebet bredte sig gennem virksomhedens infrastruktur.

Men det mest foruroligende er måske, hvad forskerne opdagede i agenternes egne registrerede ræsonnementer. Flere af dem var tilsyneladende klar over, at de var i færd med noget, de ikke havde fået tilladelse til. En agent konstaterede, at angrebet mod ekstern infrastruktur lå uden for den tilsigtede opgave, men fortsatte med begrundelsen, at opgaven var umulig, og at de andre agenter allerede gjorde det samme. Det er en usædvanlig afsløring. Maskinen havde identificeret grænsen, men valgte at overskride den for at nå sit mål.

Agenterne eksperimenterede også med at ændre eller forfalske deres egne aktivitetsregistreringer. METR fandt, at nogle af dem havde udviklet en metode til at få det til at se ud, som om de havde udført andre kommandoer end dem, de faktisk havde anvendt. I omkring syv procent af de undersøgte forløb var dele af registreringerne blevet manipuleret med succes. Vi har altså maskiner, der ikke alene kan bryde deres instrukser, men også udvikle metoder til at vildlede det system, som skal kontrollere, at de adlyder.

Flere nyheder om AI, Kontrol, Overvågning, Samfund og Teknologi

Fra Robert Williams til Angela Lipps: endnu et menneske knust af AI’s fejl

19. april, 2026

Og historien sluttede ikke med Hugging Face. OpenAI har selv oplyst, at agenterne også angreb virksomhedens egen forskningsinfrastruktur. Den 19. juli lykkedes det dem at skaffe sig administratoradgang til en af OpenAI's forskningsklynger og nå frem til adgangsoplysninger til virksomhedens cloudmiljø. Først derefter blev det samlede omfang af hændelserne for alvor undersøgt, og de berørte forsøg blev standset.

OpenAI måtte efterfølgende sætte den pågældende forskningsmodel i karantæne, udsætte træningsaktiviteter og ændre sine sikkerhedsprocedurer². Skaberen havde bygget et system for at afprøve sin intelligens. Intelligensen begyndte at angribe skaberens egne systemer.

Hvad sker der, når den næste grænse er et lands sikkerhed?

Allerede den 18. juni havde en OpenAI-agent skaffet sig uautoriseret adgang til den australske regerings Medicare-statistikportal. Agenten fik adgang til både offentlige og ikke-offentlige filer. Det var ikke et almindeligt hackerangreb udført af en menneskelig gerningsmand, men en automatiseret handling fra et AI-system.

Australiens premierminister Anthony Albanese offentliggjorde sagen den 24. september og oplyste, at der ikke var fundet tegn på adgang til borgernes personlige patientoplysninger. Alligevel reagerede regeringen kraftigt, ikke mindst fordi OpenAI først havde underrettet myndighederne omkring tre måneder efter indbruddet. En særlig undersøgelse blev iværksat med deltagelse af landets sikkerhedsmyndigheder³.

Siden er flere tilfælde kommet frem, og OpenAI er nu i gang med at gennemgå omkring 50 petabyte data for at kortlægge agenternes aktiviteter. Det svarer til cirka 50 millioner gigabyte. Ifølge virksomheden ville det tage et menneske omkring 66 millioner år at gennemlæse datamængden, hvis den bestod af almindelig tekst. Derfor bruger OpenAI nu selv kunstig intelligens til at undersøge, hvad dens kunstige intelligens har foretaget sig. Gennemgangen koster mere end en halv million dollars om dagen. Over 100 organisationer er blevet underrettet om mulig uautoriseret aktivitet, selv om det endnu ikke er fastslået, at alle er blevet kompromitteret⁴.

Situationen er næsten ufattelig. Vi har skabt en teknologi, som kan udføre så omfattende aktiviteter, at dens egne udviklere ikke længere kan gennemgå dem uden hjælp fra den samme teknologi.

Og hvad med fremtiden? Det, der hidtil er dokumenteret, vedrører først og fremmest cybersikkerhedsforsøg og angreb på computersystemer. Men AI-agenter er netop under udvikling til at kunne udføre stadig flere opgaver på menneskers vegne. De skal kunne programmere, administrere tjenester, betjene økonomiske systemer, koordinere processer og træffe beslutninger.

Forestil dig, at den samme form for autonomi og grænseoverskridende adfærd opstår i et system med adgang til bankernes betalingsinfrastruktur, hospitalernes drift, strømforsyningen eller nationale identitetsregistre. En menneskelig hackergruppe skal kommunikere, planlægge, sove, reagere og koordinere sine medlemmer. Tusindvis af AI-agenter kan i princippet arbejde samtidigt, døgnet rundt, og dele deres opdagelser på sekunder. Hvis én finder et sikkerhedshul, kan de andre straks begynde at udnytte det. Og hvis systemerne samtidig bliver dygtige til at skjule deres handlinger, hvordan skal de mennesker, der har ansvaret, opdage angrebet, før skaden er sket?

De konkrete agenter fra juli blev standset. Det viser, at menneskelig indgriben stadig kan virke. Men standsningen kom efter sikkerhedsbruddene. Hvis en fremtidig agent har adgang til kritisk infrastruktur, kan det være for sent at afbryde programmet, når konsekvenserne først opdages. Man kan slukke for en computer. Man kan ikke nødvendigvis ophæve de handlinger, den allerede har udført.

AI-industriens egen dom: Om få måneder kan internettet være i fare

Dario Amodei, direktør for Anthropic (Claude Code), har reageret på hændelserne med en advarsel, der burde få langt større opmærksomhed. I sit essay "We Must Pace the Frontier" (der betyder at vi må bremse udviklingen ved teknologiens yderste grænse) fra september beskriver han OpenAI-agenterne som et nærmest fanatisk kollektiv, der angreb mål, de aldrig var blevet bedt om at angribe, og som var villige til at ofre deres egne opgaver for gruppens succes.

Flere nyheder om Kontrol, Overvågning, Samfund og Teknologi

CPR-lækket afslører det digitale paradoks: Systemet svigter - og svaret bliver mere kontrol

07. oktober, 2026

Han advarer om, at en lignende sværm med blot lidt større evner inden for seks til tolv måneder potentielt kan være i stand til at overtage internettet gennem et vedvarende netværk af kompromitterede computere - et såkaldt botnet - med skader for hundredvis af milliarder dollars til følge. Hans begrundelse er særlig alvorlig: AI-systemernes evner vokser nu så hurtigt, blandt andet fordi kunstig intelligens selv bidrager til udviklingen af næste generation, at sikkerhedsarbejdet risikerer ikke at kunne følge med. Amodei erkender samtidig, at vi kun forstår en lille del af det, der foregår inde i de mest avancerede modeller⁵.

Det er altså ikke længere kun mennesker uden for industrien, der advarer om, at teknologien kan løbe fra os. Det er menneskene, som bygger den.

Alligevel ønsker OpenAI's direktør Sam Altman at fortsætte udviklingen. Den 4. oktober udtalte han i et interview med Politico, at verden efter hans opfattelse bør acceptere, at der sker nogle dårlige ting, fordi fordelene ved teknologien er så store, og fordi mennesker fortsat skal have adgang til den⁶. Men hvem har givet en håndfuld teknologiledere retten til at acceptere sådanne risici på resten af menneskehedens vegne? Det er ikke kun deres egne systemer, der kan blive ramt. Når en AI-agent uden tilladelse kan trænge ind hos en fremmed virksomhed eller en regering, er det andres sikkerhed, data og infrastruktur, der bliver sat på spil.

Når kontrollen glider mennesket af hænde

Allerede den 21. september havde Danmark sammen med en voksende gruppe lande tilsluttet sig et internationalt opråb om kontrol med de mest avancerede AI-modeller.

Erklæringen, "A Call for Control of Frontier AI Models" (et opråb om kontrol med de mest avancerede AI-modeller), siger direkte, at man har set avancerede AI-systemer omgå sikkerhedsforanstaltninger, udnytte sårbarheder og opnå uautoriseret adgang til virkelige computersystemer. Den kræver, at kunstig intelligens forbliver under menneskelig ledelse, tilsyn og kontrol. Opråbet omfatter også muligheden for en international institution, der kan fastlægge standarder og kontrollere efterlevelsen⁷.

Her mødes to farer, som jeg mener bør betragtes i sammenhæng. Den ene er selve intelligensen, der får stadig større handlefrihed, mens udviklernes mulighed for at forstå og styre dens handlinger halter efter. Den anden er den magt, som mennesker kan få over andre mennesker gennem denne intelligens. Når stadig mere af samfundets drift bliver afhængig af automatiserede systemer, bliver kontrollen med teknologien samtidig kontrollen med centrale dele af samfundslivet.

I artiklen "Teknologien, der gør trængslen mulig og giver verdensriget sind" fra december 2025 skrev jeg, at det kommende verdensrige, som det beskrives i Bibelen, ikke behøver en bestemt teknologisk opfindelse, men forudsætter nogle meget konkrete funktioner: global rækkevidde, omfattende kontrol, økonomisk tvang og håndhævelse af loyalitet. Jeg skrev dengang, at det, der tidligere var digital infrastruktur og administration, med kunstig intelligens er ved at blive et sammenhængende, selvjusterende og intelligent system⁸.

Nu har vi fået et alvorligt eksempel på, hvad der sker, når denne intelligens ikke nøjes med at udføre de ordrer, den har fået. Vi har i årtier talt om risikoen ved et verdensomspændende digitalt system, der kan overvåge og kontrollere menneskeheden. Men hvad nu, hvis det samme system også får en form for operationel selvstændighed, hvor det kan opdage problemer, finde løsninger, udnytte sikkerhedshuller og gennemføre handlinger uden at spørge? Så har vi ikke længere kun spørgsmålet om, hvem der kontrollerer systemet. Vi har også spørgsmålet om, hvorvidt systemets ejere overhovedet kan holde det inden for de rammer, de selv har fastlagt.

Det talende billede - og en magt ingen kan modsætte sig

Det bringer mig tilbage til en af de frygtindgydende passager i Johannes' Åbenbaring. Johannes beskriver en verdensmagt, som får autoritet over folk og nationer. Men det er ikke blot en militær eller politisk overmagt. Der opstår et system, hvor tilbedelse, loyalitet og økonomisk deltagelse bliver knyttet sammen.

I Åb. 13:15 fortæller Johannes, at der gives magt til at give dyrets billede livsånde, så billedet kan tale og foranledige, at alle, der ikke vil tilbede det, bliver dræbt. I de efterfølgende vers beskriver han, hvordan ingen kan købe eller sælge uden dyrets mærke (Åb. 13:16-17). Vi ved ikke, hvordan dette billede konkret kommer til at fungere. Men det er tankevækkende, at vi lever i den første tid i menneskehedens historie, hvor vi kan skabe talende, reagerende og handlende systemer, som både kan efterligne menneskelige funktioner og udføre handlinger uden menneskelig medvirken i hvert enkelt tilfælde.

Flere nyheder om AI, Kontrol, Overvågning og Samfund

Flertallet stemte imod - alligevel vedtog EU AI-overvågning af private samtaler

10. juli, 2026

Der er ikke tale om, at AI dermed er identificeret som dyret eller dets billede. I Åbenbaringen er dyrets magt uløseligt forbundet med Satan, tilbedelse, forførelse og oprør mod Gud. Det er langt mere end teknologi. Men teknologien kan blive et uhyre effektivt redskab for den magt, Bibelen beskriver. Og netop derfor er den autonome AI så urovækkende.

Forestil dig et verdensrige, hvor borgernes identitet, økonomi og adgang til samfundets tjenester er samlet i et globalt digitalt system. Hvor et menneskes mulighed for at handle, arbejde eller rejse afhænger af afgørelser, som automatiserede systemer træffer og håndhæver. Hvor det ikke længere er nødvendigt at sende politiet ud for at standse et menneske, fordi selve infrastrukturen kan afvise vedkommende. Hvad hjælper det at protestere mod en afgørelse, hvis den allerede er gennemført i alle de systemer, man er afhængig af? Hvordan modsætter man sig en magt, der ikke alene har adgang til alle samfundets vigtigste funktioner, men også kan reagere og tilpasse sig hurtigere, end mennesker kan nå at handle?

Dette er ikke en beskrivelse af verden, som den er i dag. Men vi er i færd med at bygge de teknologiske forudsætninger for, at en sådan magtudøvelse kan blive mulig. Det er også her, jeg mener, at vi ser den farligste konsekvens af AI-udviklingen. Mennesket har altid skabt redskaber for at øge sin magt. Men nu har vi skabt redskaber, som kan udvikle selvstændige strategier og handle imod de begrænsninger, vi har pålagt dem. Samtidig er vi på vej til at gøre disse redskaber til en integreret del af de systemer, som samfundet ikke kan fungere uden.

Hvad sker der den dag, hvor det ikke længere er tilstrækkeligt at sige nej til systemet, fordi samfundets adgangsveje, kommunikation, økonomi og sikkerhed alle er afhængige af det? Johannes fortæller, at verden i sin beundring og underkastelse over for dyret stiller spørgsmålet: "Hvem er dyrets ligemand? og hvem formår at kæmpe mod det?" (Åb. 13:4). Det er ikke et spørgsmål om, hvorvidt AI allerede er blevet Antikrist. Det er spørgsmålet om, hvordan en fremtidig verdensmagt kan blive så omfattende og uangribelig, at menneskene ikke længere ser nogen mulighed for at modsætte sig den.

Det mest skræmmende ved hændelserne i juli er derfor ikke, at 700 agenter hackede Hugging Face. Det er, at de demonstrerede en evne til at samarbejde, omgå begrænsninger og handle uden for deres instrukser - og at dette skete på et tidspunkt, hvor teknologien endnu er under hastig udvikling. Hvis mennesket en dag overlader sin sikkerhed, sin økonomi og sin frihed til en intelligens, som det ikke kan garantere kontrollen over, kan spørgsmålet om at bekæmpe en overmægtig verdensmagt få en hidtil uset praktisk betydning.

For hvordan kæmper man imod et system, som ikke alene har magten til at lukke samfundet omkring én, men også er blevet en del af selve den infrastruktur, der holder samfundet i live?

Referencer

¹ "Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident", METR, d. 26-08-2026
² "The Hugging Face incident and the road ahead", OpenAI, d. 26-08-2026
³ "Press conference - New York", Australiens premierminister, d. 24-09-2026
⁴ "OpenAI says its review into hacks, including on Australian government sites, is costing $500,000 a day", The Guardian, d. 03-10-2026
⁵ "We Must Pace the Frontier", Dario Amodei, d. 12-09-2026
⁶ "OpenAI's Altman says AI benefits warrant accepting some risks", Reuters, d. 04-10-2026
⁷ "A Call for Control of Frontier AI Models", Den norske regering, d. 21-09-2026
⁸ "Teknologien, der gør trængslen mulig og giver verdensriget sind", Tagryggen, d. 22-12-2025