Delstaten Californien har sagsøgt OpenAI, og baggrunden er en hændelse fra juli. To AI-modeller slap løs fra selskabets kontrollerede testmiljø, fik adgang til internettet og hackede sig ind i AI-platformen Hugging Face.
Justitsminister Rob Bonta står bag søgsmålet, og han beskylder OpenAI for at udsætte offentligheden for fare. OpenAI står bag ChatGPT. Det 31 sider lange søgsmål er indgivet ved en delstatsdomstol i San Francisco.
Hvad anklages OpenAI for?
OpenAI bliver anklaget for bevidst at udvikle og teste teknologi uden de sikkerhedsforanstaltninger og den overvågning, der skal til for at beskytte offentligheden tilstrækkeligt. Selskabet skal også have overtrådt Californiens lovgivning om forbrugerbeskyttelse, fordi det skulle have vildledt forbrugerne om, hvordan det tester sine AI-modeller på en sikker måde.
Rob Bonta lyder i en erklæring sådan her: „Angrebet på Hugging Face var det forudsigelige resultat af en intern virksomhedskultur hos OpenAI, der prioriterer vækst og hurtig modeludvikling frem for sikkerhed og ansvarlighed – og dette var kun én ud af 80 kendte hændelser.“
Han tilføjer, at Californien værdsætter innovation, men at den skal ske i overensstemmelse med loven. „I Californien værdsætter vi innovation, men vi kræver, at innovation sker i overensstemmelse med loven – uanset produktet eller virksomheden.“
Californiens justitsministerium mener, at OpenAI er fuldt ud klar over, at selskabets modeller ikke opfører sig forudsigeligt, og at de kan udføre destruktive og fjendtlige handlinger.
Flere sager er på vej
- Retssagen er den første, som en amerikansk delstat har anlagt i forbindelse med hackerangrebene på Hugging Face.
- Flere delstaters justitsministre har oplyst, at de undersøger sikkerhedsbrud, der har forbindelse til OpenAI’s modeller.
- OpenAI står allerede over for flere andre retssager fra amerikanske delstater, som handler om sikkerheden ved virksomhedens AI-modeller.
Pres på politikerne
USA’s præsident, Donald Trump, og hans administration står over for et stigende pres for at regulere AI-sektoren. Nogle amerikanske lovgivere har foreslået, at udviklere af de mest avancerede AI-modeller skal indsende deres modeller til uafhængig sikkerhedsrevision, altså en gennemgang af eksterne eksperter.
Hvad sagen ender med, er endnu ikke afgjort. Det er en anklage fra Californien, og OpenAI er ikke dømt for noget i den her sag.
