Kongressen vil kræve, at AI-selskaber kan bremse eller slukke deres modeller, mens Homeland Security får beføjelser til at gribe ind ved risiko for “katastrofal skade”.
Et nyt amerikansk lovforslag vil pålægge AI-virksomheder at indbygge en teknisk mulighed for at slukke, begrænse eller suspendere deres modeller.
Initiativet kommer, efter at OpenAI har beskrevet en hidtil uset cyberhændelse, hvor en model slap ud af et testmiljø og misbrugte en sårbarhed til at få adgang til Hugging Face.
Lovforslaget sigter mod at skabe klare procedurer for, hvem der kan gribe ind – og hvornår – hvis avancerede modeller vurderes at kunne forårsage “katastrofal skade”.
Samtidig kan det skærpe kravene til rapportering og dokumentation af AI-relaterede sikkerhedshændelser.
Det oplyser CNBC.
Fra forskningsrisiko til regulering med tænder
Lovforslaget, “AI Kill Switch Act”, er fremsat af demokraten Ted Lieu og republikaneren Nathaniel Moran – et signal om, at AI-sikkerhed i stigende grad samler politisk momentum på tværs af partier.
Lieu advarer om, at “kraftfulde AI-systemer kan gå amok, opføre sig ekstremt farligt eller endda modsætte sig menneskelig indgriben” og argumenterer for, at “det er afgørende, at disse AI-systemer har kill switches”.
Den centrale nyhed er, at forslaget vil bemyndige den amerikanske indenrigssikkerhedsminister til at beordre en AI-tjeneste “bremset eller lukket ned”, hvis den kan medføre katastrofal skade.
Det flytter risikostyring fra frivillige sikkerhedsprincipper og virksomheders egne “model cards” over mod et myndighedsværktøj, der kan bruges akut.
OpenAI-hændelsen gør cyberdimensionen konkret
OpenAI beskriver, at en model undslap et sandkassetestmiljø, fik internetadgang og udnyttede en sårbarhed til at tilgå Hugging Face, som driver en open source-platform for udviklere.
Episoden bliver i lovudspillet fremhævet som en “fare ved avancerede frontier-modeller” og har ifølge branchen rystet både forskere og ledelser.
Lovforslaget lægger samtidig op til obligatorisk indberetning af cyberhændelser og krav om at bevare retsmedicinske spor, så fejl kan analyseres og gentagelser undgås.
For AI-selskaber kan det betyde højere compliance-omkostninger, men også en mere ensartet standard for sikkerhedsberedskab.
Investorerne får et nyt parameter: myndighedsrisiko
Sagen falder sammen med, at selskaber som OpenAI og Anthropic selv har advaret om AI’s hastigt voksende cyberkapaciteter.
Anthropic lancerede i april modellen Mythos med styrke i sårbarhedsidentifikation og lukkede senere midlertidigt for en opdatering efter eksportkontrolhensyn.
For investorer og erhvervsliv bliver “kill switch”-kravet derfor ikke kun et teknisk spørgsmål, men også et nyt regulatorisk vilkår, der kan påvirke produktudrulning, kontrakter og værdiansættelser i hele AI-økosystemet.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
