AI-selskabet vil give en ekstern evaluator adgang på medarbejderniveau og finansierer selv indsatsen nu – et signal til både regulatorer og investorer forud for en ventet børsnotering.
Anthropic har udpeget Accenture som såkaldt “embedded evaluator” og tager dermed første konkrete skridt i direktør Dario Amodeis plan om at sænke tempoet i udviklingen af de mest avancerede AI-modeller.
Parterne vil investere mindst 1 mia. dollar hver over fem år i at opbygge kapacitet til evaluering og kontrol.
Samtidig lægger Anthropic op til, at modellen på sigt bør finansieres via fælles puljer eller offentlige midler, men betaler i første omgang selv for Accentures arbejde.
Aftalen giver ekstern adgang, men ændrer ikke ved, at ansvaret for sikkerheden fortsat ligger hos Anthropic.
Det oplyser CNBC.
Ekstern adgang som nyt sikkerhedsgreb
Kernen i Amodeis første trin er, at tredjepartsevaluatorer får adgang på medarbejderniveau for at kunne verificere sikkerhedspraksis og rapportere hændelser.
Det er et markant brud med den traditionelle “trust us”-tilgang, hvor selskaberne primært offentliggør egne testresultater og principper.
Anthropic vil indlejre medarbejdere fra Faculty, Accentures specialiserede AI-forretning, til at teste værn, køre “red teaming” og vurdere, om modellerne opfører sig i tråd med menneskelige værdier.
Partnerskabet er ikke eksklusivt, og Anthropic er i dialog med forskningsnonprofitten METR samt andre tredjeparter.
Signal til et splittet AI-marked
Initiativet kommer i en tid, hvor AI-branchen er splittet om behovet for nye regler.
Amodeis plan blev mødt med opbakning fra flere prominente techprofiler, mens andre har afvist, at der er behov for yderligere regulering.
Valget af en global konsulentgigant som Accenture kan læses som et forsøg på at gøre sikkerhed mere operationel: ikke blot som løfter, men som processer, der kan revideres, dokumenteres og skaleres på tværs af teams og produktlinjer.
IPO-perspektivet: Fra principper til bevisbyrde
Mange har spekuleret i, hvordan Amodeis forslag ville se ud i praksis – særligt mens Anthropic ifølge markedets forventninger forbereder en stor børsnotering.
En embedded evaluator kan blive et centralt element i selskabets investeringscase: Hvis sikkerhed bliver et konkurrenceparameter, kan uafhængig kontrol reducere regulatorisk og omdømmemæssig risiko.
Omvendt rejser ordningen spørgsmål om, hvordan man måler “sikre” modeller, og hvor hurtigt evaluering kan følge med, når nye generationer rulles ud.
Anthropic understreger, at ekstern evaluering ikke mindsker selskabets eget ansvar – men den flytter bevisbyrden tættere på offentligheden.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
