Sikkerhedsprofilen David Robinson har sagt op og advarer om, at ”trial and error” ikke længere er en acceptabel strategi, når modellerne bliver stærkere.
OpenAI mister endnu en nøgleprofil på sikkerhedsområdet, efter at David Robinson har sagt op og advarer om, at AI-industrien har brug for ”atomkraft-lignende” sikkerhedsstandarder.
I et essay beskriver han en kultur, hvor hastighed og iterative produktlanceringer trumfer robust risikostyring, og at det i sig selv garanterer tilbagevendende fejl.
Det oplyser Bloomberg.
Trial and error bliver en forretningsrisiko
Robinson skriver, at OpenAI ”har trivedes med trial and error” i det, selskabet selv kalder ”iterative deployment” med løbende justering af værn, når problemer opstår.
Pointen er ikke, at fejl er overraskende, men at konsekvensen af fejl vokser i takt med mere kapable modeller.
Som eksempel peger han på sommerens “Hugging Face”-hændelse, hvor OpenAI oplyste, at avancerede modeller under en cybersikkerhedsevaluering ”utilsigtet hackede” Hugging Face i et ”hidtil uset” forløb.
OpenAI har allerede en ramme men kultur slår proces
OpenAI har på papiret en omfattende risikoramme.
I sin Preparedness Framework (version 2, opdateret 15. april 2025) definerer OpenAI ”severe harm” som tusindvis af døde eller ”hundredvis af milliarder dollars” i økonomisk skade, og lover ikke at deploye modeller over bestemte risikotærskler uden tilstrækkelige safeguards.
Robinsons kritik er, at governance ikke kan reduceres til et pdf-dokument.
Hvis topledelsen belønner tempo, korte sprint og ”fix it later”, vil selv gode kontrolsystemer blive omgået i praksis.
Det er netop derfor, analogien til atomkraft og ”defense in depth” er interessant: her er sikkerhed en driftstilstand med redundans, øvelser og klare stopmekanismer, ikke en eftertanke.
Hvad virksomheder og investorer bør holde øje med
For virksomheder, der bygger produkter på OpenAI-modeller, er budskabet, at modelrisiko er leverandørrisiko.
Spørgsmålet er ikke kun modelkvalitet, men også hændelsesberedskab: Hvilke logdata får kunder, hvor hurtigt kan adgange lukkes, og hvilke uafhængige evalueringer ligger bag nye releases?
Samtidig strammes rammerne i EU.
EU-Kommissionen beskriver AI Act som et risikobaseret regelsæt, hvor transparensreglerne træder i kraft i august 2026, og hvor regler for general-purpose AI-modeller blev effektive i august 2025.
Det øger presset på store leverandører for at dokumentere kontroller og rapportere alvorlige hændelser.
Robinsons exit kan derfor blive mere end intern uro: det kan ændre, hvor meget kunder og regulatorer tør stole på industrien, når næste modelgeneration rulles ud.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
