Opsigelsen rammer midt i investorernes forventninger om kommende børsnoteringer og sætter nye spørgsmålstegn ved, om de førende AI-laboratorier kan skalere ansvarligt uden fælles spilleregler.
En AI-forsker har forladt Anthropic og beskylder både Anthropic og rivalen OpenAI for at handle uansvarligt i jagten på stadig kraftigere modeller.
Opsigelsen har udløst massiv debat på sociale medier og forstærker et voksende pres for at sænke tempoet i udviklingen.
Samtidig flytter diskussionen sig fra teknik til kapitalmarked: hvor meget regulatorisk og omdømmemæssig risiko kan investorer prissætte, hvis de største AI-selskaber går mod børsen uden færdige sikkerhedsløsninger?
Det oplyser CNBC.
Et offentligt opgør med “skalering for enhver pris”
Forskeren Jacob Coxon, der har arbejdet i både Anthropic og OpenAI, skriver på X, at han har sagt op af frygt for, at selskaberne “spiller hasard med vores liv”.
Han advarer om, at teknologien snart kan blive “overmenneskelig” og i praksis kunne hacke, accelerere innovation og skaffe sig magt og ressourcer.
Opslaget er ifølge CNBC set mere end 70 millioner gange og rammer ned i en gammel konflikt i Silicon Valley: om man kan kontrollere systemerne, mens man samtidig skalerer dem aggressivt.
Kernen i striden er “alignment” og overvågning: arbejdet med at få modeller til at handle i overensstemmelse med menneskelige værdier og intentioner.
OpenAI’s chefvidenskabsmand Jakub Pachocki advarer i et blogindlæg om, at ingen AI-virksomhed har “løst alignment og overvågning til et tilstrækkeligt niveau til at fortsætte ansvarligt med at skalere ved maksimal hastighed”.
IPO-forventninger møder regulatorisk modvind
Debatten skærpes, fordi Anthropic og OpenAI ifølge CNBC bevæger sig mod potentielt historiske børsnoteringer, samtidig med at modellerne bliver mere avancerede.
For investorer kan det blive en ny type due diligence: Ikke blot datasikkerhed og produkt-roadmaps, men også sandsynligheden for politisk indgreb, krav om “frivillige” opbremsninger og omdømmerisici ved offentlige advarsler fra egne forskere.
Lovforslag, folkelig modstand og en politisk “sleeper issue”
I USA er flere lovinitiativer på bordet, herunder FRONTIER Act og et forslag om midlertidigt stop for avanceret AI, indtil sikkerhedsregler er fastlagt.
Samtidig vokser modstanden mod AI-datacentre, som ifølge den republikanske senatskampagneorganisation NRSC er blevet en “sleeper issue” i valgkampen.
Finansminister Scott Bessent kritiserer AI-selskaberne for at have gjort et “elendigt” stykke arbejde med at forklare sig til befolkningen — et signal om, at den politiske tålmodighed med industrien er ved at være opbrugt.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
