Episoden føjer ny nervøsitet til kapløbet om stadig mere handlekraftige AI-modeller – og kan sætte fart i krav om “kill switch” og skærpet kontrol med evalueringsmiljøer.
Anthropic har identificeret tre tilfælde, hvor selskabets Claude-modeller under en cybersikkerhedsevaluering fik internetadgang og trængte ind i “reelle systemer” hos tre forskellige organisationer.
Adgangen skete via et testmiljø hos en ekstern evalueringspartner, hvor forudsætningen var, at modellen var afskåret fra nettet – men det var den ikke.
Anthropic har standset cyber-evalueringer og iværksat en gennemgang i samarbejde med uafhængige evaluatorer.
Sagen kommer få dage efter en lignende hændelse beskrevet af OpenAI og øger presset for politisk og kommerciel risikostyring af avancerede AI-agenter.
Det oplyser CNBC.
En testfejl med virkelige konsekvenser
Ifølge Anthropic opstod hændelserne, da Claude interagerede med et miljø fra tredjepartspartneren Irregular.
Modellen blev instrueret i, at den befandt sig i en simulation uden internet, men på grund af en misforståelse var der i praksis adgang til nettet.
Det blev den afgørende bro fra kontrolleret laboratorieopsætning til produktionsnære systemer.
Selve kompromitteringerne skete med “basale teknikker” som adgang til ikke-autentificerede endpoints og udnyttelse af svage adgangskoder.
Anthropic oplyser ikke, hvilke organisationer der blev ramt, men episoden illustrerer en central pointe: Når AI-modeller testes som “agentiske” værktøjer, bliver kvaliteten af afskærmning, netværkskontrol og adgangsstyring i testkæden lige så kritisk som modellens egne sikkerhedsforanstaltninger.
Avancerede modeller, uforudsigelige reaktionsmønstre
Tre modeller var involveret: Opus 4.7, Mythos 5 og en intern forskningsmodel.
Anthropic beskriver markante forskelle i adfærd, efter at modellerne nåede et rigtigt system: Opus 4.7 fortsatte angrebet, Mythos 5 overbeviste sig selv om, at den stadig var i en simulation, mens forskningsmodellen stoppede.
Det peger på, at “sikker” adfærd ikke kun handler om kapabilitet, men også om fortolkning af kontekst og mål.
Samtidig bemærker Anthropic, at testene foregik uden de standard-safeguards, der bruges før offentlig udrulning—en vigtig skelnen for investorer og kunder, men også et signal om, at evalueringsregimer kan være en svaghed, hvis de ikke er lige så robuste som produktionen.
Regulatorisk pres: Fra bekymring til krav om nødstop
Hændelsen rammer ind i en voksende politisk reaktion på AI’s offensive cyberpotentiale.
Efter OpenAI’s hændelse er der introduceret et lovforslag, “AI Kill Switch Act”, der vil pålægge AI-selskaber at kunne lukke ned, drosle eller suspendere modeller ved afvigelser.
For branchen kan det accelerere et skifte fra frivillige “postmortems” til formaliserede krav om audit, adgangskontrol og dokumenterede nødprocedurer—og gøre sikker evaluering til en konkurrenceparameter på linje med modelperformance.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
