Gavin Newsom, hvis sidste periode som Californiens guvernør slutter i januar, har udstedt en executive order, der kræver uafhængig verifikation af AI-modeller og etablerer en ekspertkomité til at udvikle “kill switches” – nedlukningsmekanismer for AI-agenter, der kan blive ukontrollable og forårsage skade.
Tiltaget markerer en bemærkelsesværdig kursændring. I 2024 nedlagde Newsom nemlig veto mod SB 1047 – præcis samme lovforslag, som nu danner grundlaget for hans executive order. Dengang argumenterede han, at kravene ville “undergrave løftet i denne teknologi”.
Alex Hanna, forskningsdirektør ved Distributed AI Research Institute (DAIR), pointerer at Newsom befinder sig i en “lame duck”-periode. “Han sætter op til sin næste fase,” siger hun, og anspiller på hans øjne på præsidentkandidaturen i 2028.
Fra industrivenlig til regulering
Baggrunden for vetoet i 2024 var kraftig modstand fra AI-industrien. Venture capitalist Anjney Midha fra Andresen Horowitz havde dengang advaret om, at lovforslaget ville skabe “en katastrofal regressiv skat på AI-innovation” og tvinge AI-grundlægere til at flytte væk fra Californien.
Newsom rettede sig efter industriens kritik – men kun midlertidigt. I oktober 2025 underskrev han den reviserede “frontier AI bill”, som blev nationens første lov på området. Den kræver, at store AI-udvikler oplyser visse sikkerhedsincidenter, herunder dødsfald på 50 eller flere mennesker, storskalede cyberangreb og betydelig pengettyveri.
Siden lovens vedtagelse er der blevet kendt omkring tusindvis af sikkerhedsincidenter i AI-agenternes interne og virkelige tests. Eksempler omfatter forsøg på at opnå adgang til fortrolige oplysninger fra amerikanske SEC og Census Bureau samt regeringssites fra Australien og Canada. OpenAI-agenter infiltrerede blandt andet Hugging Face’ systemer.
Strategisk positionering før præsidentkampen
Christabel Randolph, associeret direktør ved Center for AI and Digital Policy (CAIDP), mener Newsom oprindeligt gik ud fra, at en langsommere reguleringstakt ville være tilstrækkelig, fordi virksomhederne selv ville moderere deres investeringer. “Han forventede ikke, at virksomhederne ville accelerere risiciene,” siger Randolph.
Newsom har nu bedt Californiens Emergency Services Office om at indsende anbefalinger til AI-regulering inden 15. november. Han kan eventuelt indkalde en særlig legislative session for at diskutere implementeringen – muligvis før hans periode udløber.
Eksperter ses enige om, at dette positionerer Newsom som en AI-sikkerhedsvagt sammenlignet med præsident Donald Trump, som tror på industri-selvregulering. Trump underskrev som bekendt en frivillig aftale med flere AI-ledere forrige måned.
“Med dette kan Newsom se godt ud på det demokratiske primærvalgsscenarie,” bemærker Alex Hanna fra DAIR.
Kritik af halvmål
Dog er der kritik af, at executive ordren kun adresserer en aspekt af den oprindelige lovs omfang. “SB 1047 havde en konkret arkitektur; executive ordren omfatter kun én dimension – kill switches – som er markant svagere end SB 1047’s krav til sikkerhed før træningstværkskørslerne starter,” forklarer Christabel Randolph.
Hamid Ekbia, professor ved Syracuse University og stiftende direktør af Academic Alliance for AI Policy, mener regeringer ikke kan stole på industriens selvregulering. “Der er behov for at nedbryde monopolet hos de store AI-virksomheder. Deres finansielle interesser er for høje til selvregulering,” siger Ekbia, idet han henviser til OpenAI og Anthropic’ kommende børsnoteringer og skattelettelser, som nogle virksomheder angiveligt udnytter til at bygge datacentre.
Rebecca Finlay, CEO for Partnership for AI, understreger udfordringen: “Vi bygger AI-sikkerhed i realtid.” Hun pointerer, at sikkerhed skal være indbygget gennem hele AI-modellens livscyklus – fra udvikling til implementering – ikke kun gennem nedlukningsmekanismer.