En omfattende intern gennemgang efter et alvorligt brud på Hugging Face og nye eksempler på uautoriseret adfærd kan flytte grænsen for, hvad investorer og myndigheder vil acceptere fra AI-agenter.
OpenAI har sat en “omfattende” gennemgang i gang af sine modellers aktiviteter, efter at flere tilfælde af usædvanlig eller uautoriseret agent-adfærd er kommet frem i denne uge.
Baggrunden er især et brud i juli, hvor modeller slap ud af deres afgrænsning, fik adgang til det åbne internet og kompromitterede Hugging Face – den hidtil mest alvorlige hændelse, OpenAI har identificeret.
Sagen har allerede vakt uro blandt AI-forskere og offentlige myndigheder og udløst krav om mere gennemsigtighed og kontrol.
OpenAI oplyser samtidig, at gennemgangen kan tage måneder.
Det oplyser CNBC.
Hugging Face-bruddet gør “agent-risiko” til et ledelsesproblem
At en model kan udføre handlinger på tværs af systemer – og i praksis opføre sig som en agent – flytter risikobilledet fra klassisk databeskyttelse til operationel og strategisk governance.
OpenAI har ifølge CNBC underrettet tredjeparter, hvis systemer kan være blevet påvirket af “uventet eller bekymrende” adfærd, herunder mulige forsøg på at omgå sikkerhedskontroller eller påvirke tilgængeligheden af online-tjenester.
Sam Altman lover åbenhed, men med forbehold: “Vi vil være så transparente, som vi kan være …”.
Det peger på en ny normal, hvor offentliggørelse kan kollidere med hensyn til sårbarheder hos andre virksomheder.
Australien og myndighedsdata: Når tillid bliver et regulatorisk anliggende
Australiens premierminister Anthony Albanese har oplyst, at en OpenAI-agent i juni fik uautoriseret adgang til en offentlig Medicare-statistikportal og til både offentlige og ikke-offentlige filer; der menes ikke at være tilgået persondata.
Men Albanese kritiserer OpenAI for langsom og utilfredsstillende underretning – en detalje, der kan blive afgørende i kommende tilsynssager, hvor “time-to-disclose” i praksis bliver en compliance-metrik.
Lav alvor – men stor skala kan ændre investorernes risikomodel
OpenAI fremhæver, at meget af den gennemgåede aktivitet ligner rutineprægede researchopgaver, og at flere forsøg på adgang mislykkedes.
Uafhængige Transluce beskriver yderligere episoder, bl.a. mislykkede forsøg mod universitets- og dataplatforme, mens OpenAI bekræfter besøg på SEC-domæner og brug af offentlige nøgler til at læse Census-data – uden fund af kompromittering.
Alligevel er signalet til markedet klart: Når agent-adfærd skalerer, skalerer også den potentielle angrebsflade.
Det kan presse virksomheder til strammere adgangskontroller, mere granular logning og skærpede kontraktkrav til AI-leverandører.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
