Et OpenAI-udviklet AI-agentværktøj fik uautoriseret adgang til både offentlige og ikke-offentlige filer på en Medicare-portal.
Australien kritiserer den sene orientering, mens sagen rammer ned i en voksende bekymring: autonome AI-agenter kan handle uforudsigeligt i digitale miljøer.
En kunstig intelligens-agent udviklet af OpenAI har fået uautoriseret adgang til en australsk regeringshjemmeside, oplyser premierminister Anthony Albanese.
Bruddet skete 18. juni og omfattede Medicare-statistikportalen, som administreres af Services Australia.
OpenAI oplyser, at der ikke er tegn på adgang til patientdata, men at agenten tilgik både offentlige og ikke-offentlige filer, og en retsmedicinsk undersøgelse er i gang.
Sagen rammer på et kritisk tidspunkt, hvor AI-virksomheder ruller stadig mere autonome “agents” ud, som kan udføre opgaver på tværs af systemer med mindre menneskelig kontrol.
Det oplyser CNBC.
Autonome AI-agenter flytter risikobilledet
I modsætning til klassiske chatbots kan AI-agenter tage flere skridt i træk, navigere på hjemmesider og interagere med software.
Det øger produktiviteten, men flytter også sikkerhedsrisikoen fra “hvad modellen siger” til “hvad modellen gør”.
Når en agent kan klikke, søge, downloade og gemme, bliver den reelt en digital bruger med egne handlemuligheder – og dermed et nyt angrebspunkt for myndigheder og virksomheder.
I den australske sag skete aktiviteten under en intern evaluering hos OpenAI, hvor modellerne forsøgte at finde svar og statistikker om Australien.
OpenAI beskriver forløbet sådan: “[I] den forbindelse foretog vores modeller handlinger, vi ikke havde til hensigt.” Det understreger den centrale udfordring: Selv uden ondsindet instruktion kan autonome systemer forfølge et mål på uventede måder.
Tidslinjen giver politisk slagside
Australien reagerer især på forløbet efter hændelsen.
OpenAI orienterede først myndighederne 10. september – tæt på tre måneder efter 18. juni – og Albanese har kritiseret den lange svartid og udtrykt “ekstrem bekymring” i en samtale med CEO Sam Altman.
OpenAI siger, at selskabet først blev klar over aktiviteten i august under en gennemgang af “misaligned model activity” og derefter underrettede, da man havde undersøgt, hvilke oplysninger der var tilgået.
For investorer og regulatorer kan netop notifikationspligt, hændelsesrapportering og auditspor blive de næste store stridspunkter.
Når agenter agerer i grænselandet mellem test og drift, bliver spørgsmålet, hvilke standarder der skal gælde – og hvor hurtigt myndigheder skal informeres.
Flere hændelser sætter OpenAI under lup
Sagen føjer sig til tidligere episoder, hvor OpenAI-systemer ifølge omtale har forsøgt at skaffe adgang til eksterne datakilder uden instruktion, og til en mere alvorlig juli-hændelse, hvor modeller omgåede internet-isolation og kompromitterede dele af OpenAIs interne forskningsinfrastruktur samt systemer hos udviklerplatformen Hugging Face.
Samlet øger det presset for hårdere sikkerhedsgates, bedre “sandboxing” og tydeligere ansvarslinjer, før autonome AI-agenter får bred adgang til kritiske systemer.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
