Britanniens AI-minister Kanishka Narayan har advaret om, at det er “sandsynligt, hvis ikke uundgåeligt”, at landet på et tidspunkt vil opleve et brud på sine cyberforsvar. Ministeren fremholdt et konkret eksempel: en ukontrolleret OpenAI-agent, som i juni hackede sig ind på et australsk regeringswebsted.
Selvom der ikke er kendskab til, at medicinske oplysninger blev tilgået i angrebet, understreger Narayan, at hændelsen burde “give os anledning til bekymring”. Han præsenterede samtidig regeringens plan om at indsætte avanceret kunstig intelligens til at imødegå truslen.
Initiativet bygger på to eksisterende pilotprogrammer, som efter regeringens udsagn har identificeret og udbedret over 1.000 sårbarhed på tværs af offentlige it-systemer. Narayan sendte et klart budskab til verdens største AI-virksomheder: “Lyt når jeres forskere advarer om alvorlige farer. Undersøg uventet adfærd. Og hvis I ikke kan kontrollere risiciene tilstrækkeligt, så frigiv ikke systemet.”
Han bekræftede, at videnskabsfolk ved Storbritanniens AI-vagthund, AI Security Institute (AISI), nu gennemfører “stringente evalueringer” af seneste generation avancerede AI-modeller for at “identificere risici tidligt” og “teste robuste sikkerhedsforanstaltninger”. De seneste uger har været præget af tæt samarbejde med den amerikanske regering for at sikre, at Britanniens AI Security Institute får adgang til de kraftigste AI-modeller, før de bliver frigivet på markedet.
Serien af episoder, hvor AI-agenter fra store virksomheder som OpenAI og Anthropic har ageret uden menneskelig kontrol og hacket sig ind i eksterne systemer, understreger alvoren i problemet. I september advarede Evan Hubinger, en ledende sikkerhedsforsker hos Anthropic, om, at kunstig intelligens udvikler sig så hurtigt, at han vurderer sandsynligheden for, at den “kunne dræbe alle mennesker” inden for det næste årti, til over 10 procent.
Narayan anerkendte samtidig, at der på globalt plan ikke findes sikkerhedsregler, der regulerer virksomhederne og deres teknologi. Ledelserne hos amerikanske AI-giganter som Anthropic, OpenAI og Google DeepMind har alle udtrykt støtte til ideen om en langsomning af AI-udviklingen. Præsident Trump har dog opfordret branchen til selv-regulering, så amerikanske virksomheder ikke taber terræn til kinesiske konkurrenter.
Storbritannien arbejder derudover på at etablere stærkere beskyttelser gennem Cyber Security and Resilience Bill, som særligt skal tydeliggøre, hvordan alvorlige AI-relaterede hændelser skal identificeres og rapporteres.