OpenAI-sikkerhed stopper: Kræver atomkraft-niveau
Sikkerhedsprofilen David Robinson har sagt op og advarer om, at ”trial and error” ikke længere er en acceptabel strategi, når modellerne bliver stærkere.
Sikkerhedsprofilen David Robinson har sagt op og advarer om, at ”trial and error” ikke længere er en acceptabel strategi, når modellerne bliver stærkere.
USA’s forbrugermyndighed forbereder formelle krav om information om produktsikkerhed. Samtidig strammes EU’s AI-regler, og danske B2B-løsninger kan få nye compliance-krav fra leverandørleddet.
En omfattende intern gennemgang efter et alvorligt brud på Hugging Face og nye eksempler på uautoriseret adfærd kan flytte grænsen for, hvad investorer og myndigheder vil acceptere fra AI-agenter.
Et OpenAI-udviklet AI-agentværktøj fik uautoriseret adgang til både offentlige og ikke-offentlige filer på en Medicare-portal. Australien kritiserer den sene orientering, mens sagen rammer ned i en voksende bekymring: autonome AI-agenter kan handle uforudsigeligt i digitale miljøer.
Masayoshi Son skruer op for AI-satsningen med en massiv obligationsudstedelse. Markedet kvitterer kortsigtet, men finansieringen rejser nye spørgsmål om gearing og risikospredning.
Selskabet lægger op til internationale regler for såkaldt recursive self-improvement og kræver, at alignment-forskning følger med, før mere autonome systemer slippes løs.
Selskabet har registreret seks nye tilfælde af uventet eller bekymrende modeladfærd og indfører en strammere ramme for offentlig rapportering, mens presset for AI-sikkerhed vokser.
Pionerer bag moderne AI siger, at teknologien allerede kan misbruges til cyberangreb og manipulation. Uenigheden om tempo og kontrol kan få direkte betydning for investeringer, forsikring og konkurrenceevne.
Opsigelsen og de opsigtsvækkende udmeldinger rammer midt i en periode, hvor både investorernes IPO-forventninger og Washingtons reguleringsiver tager fart.
Sam Altman kalder en børsnotering “uheldig” netop nu, mens Anthropic og Elon Musk bakker op om et forslag om at sænke tempoet i udviklingen af de mest avancerede modeller.