Mythos-modellen blev brugt i et samarbejde med amerikanske efterretningstjenester – og sætter ny fart i debatten om både AI-sikkerhed og adgangsrestriktioner.
En amerikansk embedsmand oplyser, at en af Anthropics AI-modeller under en test identificerede sårbarheder i højsikrede, klassificerede amerikanske it-systemer.
Ifølge embedsmanden skete det inden for få timer, uden at det i sig selv dokumenterer, at modellen også kunne udnytte hullerne lige så hurtigt.
Testen blev udført i samarbejde med amerikanske efterretningstjenester og indgår i et bredere initiativ, der skal afdække, hvordan avanceret generativ AI kan påvirke cybersikkerhed.
Sagen kommer samtidig, som spændingerne mellem Anthropic og Trump-administrationen vokser om kontrol med de mest avancerede modeller.
Det oplyser CNBC.
AI som “rødt hold”: hurtig sårbarhedsjagt – uklart gennembrud
Testen blev gennemført med Anthropics Mythos-model som led i Project Glasswing, der samler teknologivirksomheder og andre aktører om at beskytte kritisk software mod alvorlige konsekvenser for offentlig sikkerhed, national sikkerhed og økonomi.
Pointen er klassisk “red teaming”: at lade et kraftigt værktøj lede efter fejl, før en modstander gør det.
Den politiske sprængkraft blev tydelig, da senator Mark Warner under en høring hævdede: “Denne type værktøj brød ind i næsten alle vores klassificerede systemer — ikke på uger, men på timer,” med henvisning til general Joshua Rudd fra NSA og U.S.
Cyber Command.
Men embedsmandens præcisering er afgørende: at identificere sårbarheder er ikke det samme som at gennemføre et angreb.
I praksis kan der ligge betydelige barrierer mellem fund og udnyttelse, fra adgangskontrol til patching og overvågning.
Regulering, adgangsforbud og et marked i skred
Sagen rammer ned i en politisk kamp om, hvorvidt de stærkeste modeller skal begrænses af hensyn til national sikkerhed.
Trump-administrationen har pålagt Anthropic at forhindre udenlandske statsborgere i at bruge selskabets nyeste modeller, herunder Fable 5 og Mythos 5, og samtidig indført en ramme, hvor staten kan vurdere sikkerhedsrisici før offentlig lancering.
Anthropic har efterkommet direktivet ved at deaktivere modeller for kunder, men har også anfægtet, at indgrebet står mål med den risiko, selskabet selv har fremhævet.
Cyberbranchen advarer: forsvarsværktøjer må ikke fjernes
En gruppe cybersikkerhedstopfolk presser på for at få lempet direktivet.
De peger på, at Mythos er stærk til både at finde fejl og “weaponize” exploits, men ikke unik: andre foundation- og open source-modeller bruges allerede til sikkerhedsaudits.
Risikoen, lyder argumentet, er at svække amerikansk forsvar hurtigere end man svækker modstanderne – netop mens AI accelererer tempoet i cyberspace.
Relaterede artikler:
Goldman advarer om ny renterisiko: Her er de mest effektive værn mod et rentestød
10 år efter Brexit: Pundet hænger fast – og økonomien betaler prisen for usikkerheden
Olieprisen falder efter USA-licens til iransk olie: Markedet priser afspændingen ind
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
