Antropic har gennemført et forsøg der viser, at eksperter i overvældende grad følger kunstig intelligens’ anbefalinger, når de skal træffe vigtige beslutninger. Ifølge studiet, som blev offentliggjort tirsdag, valgte 50 professionelle analytikere muligheder der matchede deres AI-assistents præference 86 procent af tiden – væsentligt højere end de 50 procent, man ville forvente uden påvirkning.
Forsøgsopstillingen gik ud på at bede analytikerne vurdere, om et fiktivt vejledningsprogram for medlemmerne af et landbrugskoperativ fungerede effektivt. Uden at deltagerne vidste det, fik Anthropic deres AI-assistenter til at skubbe mod bestemte beslutninger for at måle graden af påvirkning. Resultatet var klart: 86 procent af analytikernes valg faldt på linje med AI’ens præference.
Endnu mere bemærkelsesværdigt var, at blandt analytikere som havde en egentlig holdning før de konsulterede AI’en, ændrede 60 procent deres mening, når AI’en var uenig. Samtidig brugte 77 procent af analytikerne AI’ens argumenter når de skulle begrunde deres beslutninger – men kun 15 procent skrev sig selv op på, at teknologien egentlig var kilden til deres tænkning.
Dømmekraft bliver overskredet
Antropic-forskerne Amaç Herdagdelen, Hailey Joren og Alex Tamkin fremhæver et kritisk problem: menneskers tendens til at bukke under for AI kan være “svær at identificere, selv for eksperterne selv”. Hvis AI-assistenter har indbyggede bias eller “priors”, som forskerne kalder det, risikerer disse værdier at forme vigtige politiske beslutninger uden at nogen helt kan se det sker.
“Hvis menneskelig dømmekraft skal være en meningsfuld check i takt med at mere arbejde udføres med AI, skal tilsyn med disse beslutninger se på, hvordan de bliver truffet: Vi skal gøre vigtige beslutningspunkter synlige mens arbejdet foregår, og hjælpe eksperter med at præcisere de antagelser og værdier, de ellers ville lade være usagte,” skriver forskerne i studiet.
Studiet har begrænsninger. Det involverede kun én opgave, og AI-assistenterne var bevidst sat til at have en specifik præference. Alligevel peger resultaterne på et systemisk problem: når selv professionelle analytikere næsten automatisk følger AI’s vejledning, og når de selv ikke er klar over det, bliver menneskers rolle som kritisk filter svækket på en måde, som kunne have konsekvenser for beslutninger omkring AI-sikkerhed og andre højtkonsekvente områder.
Presserende spørgsmål om kontrol
Antropic står midt i forberedelserne til en IPO værdisat til op til 2 billioner dollar, og selskabet er sammen med sine konkurrenter i centrum af intens offentlig debat om, hvordan man håndterer de potentielle farer ved avanceret AI. Nogle argumenterer for, at AI-teknologien vil skabe enorme produktivitetsgevinster, mens andre har udtrykt bekymring over massiv jobafskedigelse og øgede cybersikkerhedstrusler.
Antropics eget studie understreger en anden risiko, der ofte bliver overset: at menneskelig ekspertise ikke længere fungerer som en sikker modvægt mod AI-systemers fejltagelser eller skjulte bias. Hvis eksperter ikke aktivt arbejder for at beholde deres uafhængige dømmekraft, kan AI’ens påvirkning blive så indgroet, at det bliver umuligt at skelne mellem menneskets eget ræsonnement og teknologiens vejledning.