Opsigelsen og de opsigtsvækkende udmeldinger rammer midt i en periode, hvor både investorernes IPO-forventninger og Washingtons reguleringsiver tager fart.
En fremtrædende AI-sikkerhedsforsker har sagt sin stilling op hos Anthropic og beskylder både Anthropic og rivalen OpenAI for at handle uansvarligt i jagten på stadig mere avancerede modeller.
Opsigelsen har udløst massiv debat om, hvorvidt udviklingen af såkaldte “frontier models” bevæger sig hurtigere end evnen til at styre dem.
Samtidig blander flere toneangivende forskere sig i offentligheden med advarsler om, at branchen mangler robuste mekanismer til at sikre, at systemerne forbliver kontrollerbare.
Det oplyser CNBC.
Et sikkerhedsoprør midt i et kommercielt kapløb
Forsker Jacob Coxon, der har arbejdet i både Anthropic og OpenAI, skrev på X, at han siger op, fordi virksomhederne efter hans vurdering “spiller hasard med vores liv”.
Hans opslag har ifølge CNBC passeret 70 millioner visninger – et tal, der i sig selv illustrerer, hvor eksplosiv AI-sikkerhedsdagsordenen er blevet, når den kobles til konkrete virksomheder og navne.
Den grundlæggende konflikt er velkendt i Silicon Valley: Jo hurtigere modellerne skaleres, jo større bliver potentialet for gennembrud – og for uforudsete konsekvenser.
For virksomheder, der samtidig bevæger sig mod potentielt historiske børsnoteringer, øger det presset for at levere hurtige produktforbedringer og fastholde momentum over for kunder og investorer.
I den optik bliver interne advarsler ikke bare et forskningsspørgsmål, men en strategisk og finansiel risiko.
“Alignment” som flaskehals for vækst og værdiansættelse
OpenAI’s chefscientist Jakub Pachocki advarede i et blogindlæg om, at ingen AI-virksomhed har løst “alignment og overvågning” godt nok til at fortsætte ansvarligt med maksimal hastighed.
Alignment – at systemer følger menneskelige intentioner og værdier – er dermed ikke kun et etisk tema, men en potentiel begrænsning for skaleringsplaner, produktroadmaps og i sidste ende værdiansættelser, hvis investorer begynder at prisfastsætte regulatoriske stopklodser.
Coxon peger desuden på frygten for “rekursiv selvforbedring”, hvor et system kan designe sin efterfølger uden menneskelig kontrol.
Branchen anerkender, at det ikke er muligt i dag, men netop derfor kan krav om tempo, test og dokumentation blive skærpet, før teknologien når dertil.
Washington rykker – og modstanden vokser lokalt
Uroen falder sammen med en mere aktiv amerikansk politisk debat.
To lovforslag – FRONTIER Act og Ban Artificial Superintelligence Act – illustrerer spændet mellem rammesætning og decideret pauseknap.
Samtidig vokser en mere jordnær modstand mod AI-datacentre, som politiske strateger allerede beskriver som et potentielt valgtema.
For selskaberne kan kombinationen af sikkerhedsdebatter og lokal modvilje blive den næste store barrierer for både ekspansion og politisk legitimitet.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
