Australien vil indføre lovpligtige krav til virksomheder, der arbejder med kunstig intelligens, hvis de vil operere i landet. Samtidig vil regeringen oprette en ny myndighed til at føre kontrol med den hurtigt voksende AI-branche.
Udmeldingen kommer, efter at en AI-agent fra det amerikanske selskab OpenAI tidligere på året skaffede sig adgang til en australsk myndighedshjemmeside. AI-agenten fik blandt andet adgang til filer, der ikke var offentligt tilgængelige, i portalen Medicare Statistics Reporting Service.
Australiens premierminister Anthony Albanese siger ifølge Berlingske, at “Vores opgave er at sikre, at det er os, der former kunstig intelligens, og ikke kunstig intelligens, der former os”.
Nye krav til AI-selskaber
Et af de nye tiltag er, at det skal være lovpligtigt at indberette sikkerhedsbrud. Derudover vil Australien kræve uafhængige evalueringer af de mest avancerede AI-modeller.
Det betyder i praksis, at virksomheder i branchen ikke kun skal udvikle deres værktøjer, men også leve op til faste sikkerhedskrav og ekstern kontrol, hvis de vil være til stede på det australske marked.
Australiens forsvarsminister Richard Marles siger, at virksomheder, der arbejder med kunstig intelligens, bør være åbne for ekstern kontrol for at sikre, at deres værktøjer er sikre. Han siger også: “Det er vigtigt, at AI-modeller bliver vurderet uafhængigt”.
Indtrængen blev meldt senere
Hændelsen på myndighedsportalen fandt sted i juni. Men først i september gjorde OpenAI de australske myndigheder opmærksomme på AI-agentens indtrængen.
Det skete i en mail til en myndighedsindbakke, som ifølge historien kun bliver tjekket én gang i døgnet. Portalen giver adgang til statistik om brugen af Medicare, som er Australiens offentlige sundhedsordning.
Regeringens udmelding kommer i en tid med stigende bekymring om risikoen ved kunstig intelligens og om, hvordan teknologien skal kontrolleres, når den bliver mere udbredt.
Vil også tiltrække datacentre
Australien har samtidig peget på sig selv som et oplagt sted for datacentre, som er nødvendige for udviklingen af kunstig intelligens. Landet har blandt andet henvist til sine store ubeboede landområder.
Datacentre bruger store mængder strøm, og i flere lande har de mødt kritik og lokal modstand. Det gælder også i Australien.
Albanese siger også, at udviklingen ikke kan stoppes, men at regeringen vil forsøge at styre den i en retning, der gavner landet.