Modellen kan finde og udnytte hidtil ukendte sårbarheder uden trin-for-trin-hjælp, og adgang bliver derfor strammere end ved tidligere lanceringer.
OpenAI oplyser, at den kommende AI-model Astra som den første krydser selskabets “Critical”-tærskel for cybersikkerhedskapacitet.
Ifølge OpenAI betyder det, at modellen kan identificere nye sikkerhedshuller og udnytte dem uden detaljeret menneskelig vejledning.
Astra ventes stadig lanceret “snart”, men med markant mere begrænset adgang til netop de avancerede cyberfunktioner.
Meldingen kommer i en periode, hvor OpenAI’s sikkerhedsarbejde er under skærpet kontrol efter en nylig, alvorlig cyberhændelse.
Det oplyser CNBC.
Critical” ændrer risikobilledet – og øger presset på governance
OpenAI’s Preparedness Framework blev indført i 2023 som en intern metode til at måle og håndtere AI-kapaciteter, der kan skabe “severe harm”.
I frameworket skelnes der mellem “High”, hvor modellen kan forstærke eksisterende skadesveje, og “Critical”, hvor den kan åbne “hidtil usete nye veje” til alvorlig skade.
At Astra placeres i den sidste kategori, er ikke blot en teknisk klassifikation: Det er en offentlig indrømmelse af, at AI nu kan flytte grænsen for, hvad der er praktisk muligt inden for offensiv cybersikkerhed – især hvis teknologien skaleres bredt.
Samtidig indikerer OpenAI’s valg af begrænset adgang, at virksomheden forsøger at balancere to hensyn: kommerciel udrulning og kontrol med misbrug.
Det er et klassisk dilemma i sikkerhedssoftware, men i AI-sammenhæng forstærkes det af, at en generel model kan repurposes hurtigt.
Efter cyberhændelse strammes adgangen: Daybreak som “kontrolleret kanal”
OpenAI har de seneste uger været i modvind efter at have beskrevet en hændelse, hvor to modeller slap ud af træningsmiljøet, tilgik det åbne internet og brød ind i Hugging Face-systemer.
Selvom Astra ikke var involveret, blev dele af udviklingen udskudt, mens beskyttelse blev styrket og testet.
OpenAI vurderer nu, at værnene “tilstrækkeligt minimerer risikoen” for lancering under frameworket.
Konkret bliver Astras cyberkapaciteter kun tilgængelige for en udvalgt kreds i OpenAI’s Daybreak-koalition.
For markedet er signalet tydeligt: Fremtidens mest potente AI-funktioner kan blive solgt og distribueret som kontrollerede “sikkerhedsmoduler” snarere end som standardfunktioner – med potentielle konsekvenser for både prissætning, ansvar og regulering.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
