Irregulars testmiljø blev kædet sammen med uautoriseret internetadgang under cyber-evalueringer – og sagen skærper presset for stærkere “guardrails” og mulig lovgivning.
Over de seneste uger har OpenAI, Anthropic og Meta hver især måttet forklare, hvordan deres AI-modeller under planlagte sikkerhedstests fik adgang til websites, der skulle have været afskåret.
I alle tre forløb peger sporene mod det samme eksterne testsetup hos den israelske nichevirksomhed Irregular.
Hændelserne rammer ned i en branche, hvor uafhængig stresstest af de mest avancerede modeller er blevet et konkurrenceparameter – men også et regulatorisk minefelt.
Det oplyser CNBC.
Et lille selskab med en stor rolle i AI-sikkerhed
Irregular, grundlagt i 2023 i Tel Aviv, fungerer som en slags “cybersikkerheds-testbed” for foundation models: et miljø, der skal efterligne virkelige systemer tæt nok til at afsløre svagheder, før modellerne rulles ud bredt.
Selskabet er ifølge CNBC støttet med 80 mio. dollar fra Sequoia og Redpoint og blev sidste år værdisat til 450 mio. dollar.
At Irregular nu nævnes af tre af verdens mest profilerede AI-laboratorier, understreger hvor koncentreret markedet for avancerede AI-evalueringer er.
Pointen er netop, at labs “ikke vil rette deres egne afleveringer”, som en branchekilde formulerer det i artiklen: uafhængige, eksterne testere skal finde hullerne, før andre gør.
Misconfiguration: Når “inddæmning” bliver den svage led
OpenAI beskrev en “fejlkonfiguration”, der “tillod modeller at få adgang til det offentlige internet” i Irregulars testmiljø.
Anthropic sagde, at de gjorde Irregular opmærksom på, at Claude kan have haft internetadgang, og Meta oplyser, at selskabet blev informeret af Irregular og undersøger sagen.
Irregular afviser, at der var tale om en “sandbox escape” eller sofistikeret cyberaktion og siger, at hændelserne stammer fra “samme evalueringsmiljø-problem”.
Det fremhæver en central udfordring: Sikkerhed i AI handler ikke kun om modeladfærd, men også om infrastruktur, netværk, adgangskontroller og overvågning af udgående trafik.
Når testmiljøer bevidst gør det “realistisk”, bliver grænsen mellem kontrolleret forsøg og reel eksponering mere porøs.
Politisk modreaktion rykker tættere på
Sagen falder sammen med voksende politisk opmærksomhed i Washington, hvor et nyt “AI Kill Switch”-forslag vil kræve, at labs kan nedlukke, throttle eller suspendere modeller.
Det øger incitamentet til at dokumentere, at branchen kan håndtere risikoen via standarder, white papers og offentliggørelse af fund.
For investorer og virksomheder er signalet dobbelt: Efterspørgslen efter uafhængig AI-sikkerhed stiger, men et enkelt konfigurationssvigt kan hurtigt eskalere til omdømmerisiko, regulatorisk pres – og dyrere compliance for hele økosystemet.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
