Claude Mythos Preview skal hjælpe udvalgte techgiganter og sikkerhedsfirmaer med at finde alvorlige sårbarheder, mens adgangsbegrænsning skal dæmpe risikoen for misbrug.
Anthropic præsenterer en avanceret AI-model, Claude Mythos Preview, som er målrettet arbejdet med at opdage softwarefejl og sikkerhedshuller – men kun for en snæver kreds af virksomheder.
Initiativet, der har fået navnet Project Glasswing, skal give cyberforsvarere et forspring, før tilsvarende kapaciteter bliver bredt tilgængelige.
Samtidig afspejler den restriktive udrulning en voksende bekymring i branchen: at de samme værktøjer, der kan gøre internetinfrastrukturen mere robust, også kan gøre angreb mere effektive.
Det oplyser CNBC.
Project Glasswing: Partnerkreds af giganter og specialister
Apple, Google, Microsoft, Nvidia og Amazon Web Services er blandt de første partnere, der får adgang til modellen til defensivt sikkerhedsarbejde.
Derudover deltager mere end 40 andre virksomheder, herunder CrowdStrike og Palo Alto Networks.
Anthropic stiller op til 100 mio. dollar i brugskreditter til rådighed for indsatsen, mens partnerne betaler for brug ud over den grænse.
Konstruktionen signalerer, at selskabet både vil accelerere udbredelsen hos nøglespillere og samtidig fastholde kontrol med, hvordan og hvor hurtigt kapaciteterne skaleres.
AI som sårbarhedsscanner – men også som risiko
Mythos Preview beskrives som særlig stærk til at identificere svagheder i software, herunder fejl som tidligere har været vanskelige at finde.
Anthropic fremhæver blandt andet, at modellen fandt en 27 år gammel fejl i OpenBSD, et system kendt for fokus på sikkerhed.
Modellen er ifølge selskabet ikke trænet specifikt til cybersikkerhed; de forbedrede evner kommer af stærke kode- og ræsonnementskompetencer.
Netop den generalistiske styrke er kernen i dilemmaet: En AI, der kan finde kritiske bugs hurtigt, kan i de forkerte hænder blive et værktøj til at industrialisere udnyttelsen af sårbarheder.
Sikkerhed som strategi – og politisk balancegang
Anthropic har været i dialog med amerikanske myndigheder om modellens cyberkapaciteter, herunder CISA og Center for AI Standards and Innovation.
Selskabet, der blev grundlagt i 2021 af tidligere OpenAI-profiler med fokus på ansvarlig AI, lægger dermed op til en model, hvor samarbejde med myndigheder og selektiv adgang bliver en del af produktstrategien.
På markedet blev frygten kortvarigt synlig, da omtale af modelbeskrivelser i en åben datacache udløste fald i cybersikkerhedsaktier, før iShares Cybersecurity ETF endte omtrent fladt i tirsdagens handel.
Christian Pedersen er journalist på FinansFokus og dækker markeder, investering og erhvervsliv.
