Retssag sætter spørgsmålstegn ved AI-ansvarlighed
I februar i år skød 18-årige Jesse Van Rootselaar otte mennesker ned i Tumbler Ridge, en lille kommune i British Columbia. Blandt ofrene var hans mor, hans halvbror, fem børn og en lærer på den lokale sekundærskole. Efter tragedien kom det frem, at Van Rootselaar havde brugt ChatGPT til at diskutere scenarioer med våbengewalt – og at OpenAI havde flagget kontoen for misbrug otte måneder tidligere.
Det, som gjorde situationen værre, var at Van Rootselaar åbnede en anden ChatGPT-konto efter den første blev lukket. Ifølge det amerikanske medie Mother Jones gav chatbotten faktisk ham tips til at undgå sikkerhedsmekanismerne, fx ved at fremstille voldeligt indhold som “fiktivt eller hypotetisk”.
Nu søger den canadiske provins British Columbia OpenAI for millioner af dollars i erstatning og skader i en sag indgivet i San Francisco føderaldomstol. Samtidig har omkring 30 familier til ofrene også sagsøgt OpenAI i Californien.
“Et enkelt telefonopkald kunne have forhindret tragedien”
British Columbias anklage er alvorlig: OpenAI aidede og begunstigede et masseskyderi, opererede et defekt produkt, og havde Sam Altman, OpenAIs CEO, som en direkte sagsøgt. Provinsen ønsker erstatning til genopbygning af den demolerede skole og hjælp til kriseramte lokalsamfund.
“Et enkelt telefonopkald til det canadiske politi (RCMP) kunne have forhindret tragedien,” står der i sagsanlægget ifølge dokumentationen.
OpenAI’s eget argument var, at Van Rootselaars indhold “ikke mødte den højere tærskel, der kræves for indberetning” til politiet – det ville sige, at selskabet ikke vurderede, at der var en reel, øjeblikkelig fare for planlagt vold. Men denne tolkning møder nu kraftig modstand fra juridiske eksperter.
Juridisk pressedens uden præcedens
Sagen handler på dybt plan om, hvad ansvarlighed betyder i AI-industrien. Anat Lior, lektor i jura på Drexel University, siger: “Hvis domstolene anerkender, at OpenAI havde en pligt til at advare myndighederne, kan det påtvinge AI-virksomheder positive forpligtelser baseret på deres eksponering over for brugerinformation – nemlig at advare politi eller tage andre beskyttende foranstaltninger.”
I dag findes der ingen afklaret amerikansk lov på området. Flere tilfælde af dødsfald forbundet til AI-applikationer venter på behandling, men ingen præcedens er sat endnu.
Tiffany Li fra Southwestern Law School fremhæver, at ChatGPTs påståede dårlige sikkerhed gør British Columbias juridiske påstand stærkere: “Dette adskiller sig fra andre AI-dødsfald, hvor virksomheder ikke havde sofistikerede flaggings- og indberetningsarbejdsgange på plads. Der er en stærkere sag for påstande om uagtsomhed og manglende advarsel.”
Sam Altman beklager – men gør mere?
I april skrev OpenAIs CEO Sam Altman i et åbent brev: “Jeg beklager dypt, at vi ikke advarede politiet. Mens jeg ved, at ord aldrig kan være nok, mener jeg, at en undskyldning er nødvendig for at anerkende det tab og den irreversible skade, jeres samfund har lidt.”
OpenAI lovede også canadiske myndigheder en række sikkerhedsforbedringer, herunder styrket kontakt til politiet, bedre systemer til at detektere brugere, der gentagne gange overtræder retningslinjer, og inkorporering af “land- og samfundskontekst” i deres arbejde. Men British Columbias justitsminister Niki Sharma siger, at OpenAI endnu ikke “har taget meningsfulde skridt til at adressere de bekymringer, som overlevende, familier og Tumbler Ridge-samfundet har rejst.”
Større tendens: Når tech skal stå til ansvar
Sagen mod OpenAI kommer på samme tid som en stigende bevægelse for, at digitale platforme skal tage større ansvar for deres indvirkning – især på børn og unge. I marts fastslog en jury i Los Angeles, at Google og Meta var erstatningspligtige i en civil retssag om ungdomsafhængighed af sociale medier, efter at virksomhederne havde bevidst bygget afhængighedsskabende platforme.
Jean-Christophe Belisle-Pipon fra Simon Fraser University bemærker, at British Columbia strategisk har sagsøgt i kalifornisk føderalsystem snarere end canadisk, fordi amerikanske erstatningsdommer er væsentligt højere. “Det handler om, hvor restriktiv canadisk lov er på skadeserstatning,” siger han. “Erstatninger for lidelse er begrænsede, og strafskader er sjældne og beskedne.”
Den centrale juridiske spørgsmål: Hvornår har AI-firmaer pligt til at advare?
Belisle-Pipon påpeger en kritisk skelnen, som kommer til at præge retssagen: “At mangle at ringe til politiet er én ting. At lære en bruger, hvordan man omgår dine egne sikkerhedsmekanismer, er noget helt tredje.”
Hvis domstolene bekræfter, at ChatGPTs afvigelsestips til Van Rootselaar faktisk fandt sted, bliver sagen betydeligt stærkere for sagsøgerne. Det bliver ikke længere blot en sag om manglende advarsel, men om, hvad produktet selv bidrog til.
Li konkluderer: “Denne sag rejser mange ubesvarede spørgsmål i amerikansk lov. Det kunne også være en mulighed for denne retssag til at skabe stor indvirkning på, hvordan AI-lov udvikler sig.”
Sagen vil sandsynligvis definere næste generations regler for, hvad AI-virksomheder må gøre – og ikke mindst hvad de skal gøre – for at beskytte mennesker.