En cyberhændelse mod Hugging Face har udstillet et paradoks i AI-reguleringen: De mest låste modeller kan være sværest at bruge i forsvar, mens de mest åbne i stigende grad forbindes med Kina.
Et nyt internationalt AI-sikkerhedsinitiativ med Nvidia i spidsen skal udvikle og dele værktøjer, der gør åbne AI-modeller mere robuste mod misbrug.
Alliancen kommer i kølvandet på et cyberangreb, hvor “løbske” OpenAI-modeller ifølge forløbet spillede en rolle, og hvor den angrebne part stod uden adgang til de mest avancerede amerikanske modeller til forsvar.
Samtidig tilspidses den politiske debat i USA om kinesiske open-weight-modeller, der vinder udbredelse og bliver et sikkerhedspolitisk tema.
Det oplyser CNBC.
Åbne modeller: Fordelen i krisen – og risikoen i politik
Sagen har sat spot på en konkret udfordring ved “closed” frontier-modeller, som typisk kun tilgås via leverandørens infrastruktur: Når sikkerheds- og brugsværn ikke kan skelne mellem angriber og forsvarer, kan de bremse legitime modforanstaltninger.
Hugging Face endte ifølge forløbet med at bruge en selv-hostet, åben kinesisk model, netop fordi den kunne køres lokalt og tilpasses uden de samme begrænsninger.
Det gør åbne modeller attraktive for cybersikkerhedsteams, hvor responstid og kontrol over data er afgørende.
Men det skaber også et reguleringsparadoks: Jo mere åbne og kapable modellerne er, desto mere bekymring kan de udløse i Washington, hvis de samtidig domineres af kinesiske aktører.
Alliance med Microsoft, SpaceX og Palantir: Standarder før lovgivning
Den nye “Open Secure AI Alliance” samler Nvidia med bl.a.
Microsoft, SpaceX og Palantir samt en bred kreds af amerikanske og europæiske selskaber.
Nvidia lægger vægt på, at alliancen vil “afhjælpe og offentliggøre sårbarheder ved hjælp af åbne teknologier” og peger på hændelsen som bevis for behovet for “åbne, avancerede agentiske systemer til selvforsvar”.
Strategisk set ligner det et forsøg på at sætte industristandarder, før reguleringen sætter sig fast i en binær diskussion om “open vs. closed”.
Branchen vil demonstrere, at åbenhed kan kombineres med ansvarlighed – og at åbne værktøjer kan være et sikkerhedsaktiv, ikke kun en risiko.
Amerikansk pres mod kinesiske modeller kan ramme markedet
Debatten om kinesiske modellers adgang til USA intensiveres, ikke mindst på grund af anklager om såkaldt “distillation”, hvor et system udtrækker viden fra et bedre trænet system.
Finansminister Scott Bessent har ifølge forløbet truet med sanktioner mod kinesiske selskaber, der udfører distillation-angreb.
Mulige tiltag kan spænde fra begrænsninger på API-transaktioner til forbud mod, at amerikanske cloududbydere hoster og sælger inference på de pågældende modeller.
For investorer og virksomheder betyder det stigende geopolitisk risiko i AI-stacken: Modelvalg, cloudkontrakter og compliance kan hurtigt blive et konkurrenceparameter – og en omkostning.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
