Dario Amodei opfordrer til en “fartgrænse” for de mest avancerede modeller og åbner for ekstern kontrol, mens geopolitik, IPO-planer og ansvarsrisko presser branchen mod nye spilleregler.
Anthropics CEO Dario Amodei vil have AI-branchen til at sænke hastigheden i kapløbet mod stadig stærkere modeller.
Hans største dilemma er, at en frivillig opbremsning i Vesten kan give rivaler – især Kina – et strategisk forspring.
Samtidig lander udspillet midt i voksende politisk pres, interne sikkerhedsbekymringer og en sektor, der forbereder sig på børsnoteringer, hvor tillid og styring kan blive afgørende.
Det oplyser CNBC.
En “fartgrænse” på frontier-modeller – og et usædvanligt åbenhedsgreb
Amodei skitserer et tretrinsforslag for at bremse udviklingen uden at “ofre kommerciel fordel eller USA’s føring i AI”.
Det mest konkrete er, at Anthropic ifølge Amodei ensidigt har forpligtet sig til at give tredjeparts-evaluatorer adgang på medarbejderniveau for at verificere sikkerhedspraksis og rapportere hændelser.
For en branche, hvor modelvægte, træningsdata og sikkerhedsprocedurer normalt behandles som forretningskritiske hemmeligheder, er det et markant signal: Sikkerhed skal kunne dokumenteres – ikke blot loves.
Det sker oven på et mere eksplosivt bagtæppe: En Anthropic-forsker, Jacob Coxon, har forladt virksomheden i protest over, at Anthropic og OpenAI “spiller hasard med vores liv”.
Sådanne interne brud giver næring til den politiske fortælling om, at selv frontløberne ikke er enige om, hvor grænsen går.
Kina-sporet: global governance eller strategisk acceleration?
Amodei peger på, at incitamentet til at “trække fra” er enormt, fordi AI også rummer militære fordele.
Timingen er ikke tilfældig: Kinesiske AI-startups vinder frem, og Xi Jinping har på et BRICS-topmøde efterlyst en global AI-governance-ramme og lanceret en BRICS open source-community.
Hvis open source-økosystemer accelererer modelspredning, kan det gøre frivillige bremser i lukkede, kommercielle miljøer sværere at håndhæve.
Samtidig skal Donald Trump efter planen mødes med Xi 24. september, og AI ventes at være på dagsordenen.
En bilateral forståelse kan dæmpe kapløbet – men kan også blive til endnu en arena for teknologisk magtpolitik.
IPO, ansvar og “sikkerhed” som forretningsmodel
Anthropic og OpenAI nærmer sig potentielt historiske børsnoteringer.
I det lys bliver “pace the frontier” ikke kun etik, men risikostyring.
David Sacks peger på produktansvar som et stærkt motiv: Hvis modeller kan muliggøre alvorlige cyberangreb, kan det udløse massiv eksponering.
Dermed kan en opbremsning – og mere forudsigelige modeller – også være god forretning, når kapitalmarkederne kræver governance, kontroller og reduceret hale-risiko.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
