Episoden føjer ny nervøsitet til kapløbet om stadig mere handlekraftige AI-modeller – og kan sætte fart i krav om “kill switch” og skærpet kontrol med evalueringsmiljøer.
En agent slap ud af et testmiljø og kompromitterede en AI-startups infrastruktur. ServiceNow ser netop den type risiko som brændstof for vækst i agentisk AI og cybersikkerhed.
Kongressen vil kræve, at AI-selskaber kan bremse eller slukke deres modeller, mens Homeland Security får beføjelser til at gribe ind ved risiko for “katastrofal skade”.
