Anthropic bruger i stigende grad kunstig intelligens til at udvikle ny kunstig intelligens – og ifølge en ny rapport går det hurtigere end tidligere. Det har fået flere forskere til at reagere, fordi udviklingen kan bringe branchen tættere på systemer, der i højere grad kan forbedre sig selv.
Rapporten kommer fra sikkerhedsforskningsorganisationen METR, som efter 11 ugers arbejde hos Anthropic vurderer, at selskabets modeller forbedrer sig omtrent dobbelt så hurtigt som for et år siden. Ifølge The Verge vurderer METR samtidig, at den acceleration i høj grad skyldes AI selv – ikke bare mere regnekraft.
Det gør sagen følsom, fordi Anthropics topchef Dario Amodei offentligt har opfordret branchen til at sætte farten ned på AI-udvikling. Derfor bliver rapporten også læst som et tegn på en mulig modsætning mellem selskabets advarsler og dets egen praksis.
Rapporten peger på hurtigere udvikling
METR skriver, at Anthropic over det seneste år har opnået, hvad der svarer til omtrent to års historisk fremgang. Forskerne vurderer, at det ikke primært kan forklares med større træningskapacitet, som ellers længe har været en vigtig motor i AI-fremskridt.
I stedet peger rapporten på, at AI-værktøjer internt hos Anthropic gør medarbejderne markant mere produktive. Ifølge METR har ansatte, der bruger selskabets mest avancerede interne model, i gennemsnit selv vurderet, at de er omkring 12 gange så produktive som uden AI-hjælp.
Foreløbig handler det især om AI, der hjælper menneskelige forskere, ikke om systemer der arbejder helt selvstændigt. Men METR skriver også, at der er tegn på, at fuldt autonome bidrag kan komme til at spille en større rolle snart.
Tre nye modeller er endnu ikke offentliggjort
Rapporten beskriver også, at en del af fremgangen ser ud til at være drevet af interne modeller, som offentligheden endnu ikke har adgang til. Ifølge METR har Anthropic færdigtrænet tre modeller de seneste seks måneder, som endnu ikke er lanceret.
De omtales i rapporten som Model 2, Model 3 og Model 4. METR nævner også en ældre ikke-offentliggjort model fra 2022. Rapporten siger samtidig, at det er de kodenavne, forskerne har fået oplyst, og at modellerne internt kan have andre navne.
Det giver kun et begrænset indblik i, hvad der konkret driver udviklingen. Og netop det er en stor del af kritikken efter offentliggørelsen.
Mange oplysninger er skjult i den offentlige rapport
Anthropic gav METR adgang til fortrolige forskningsoplysninger, modeldata og interviews med ansatte. Men selskabet havde også ret til at fjerne dele af den endelige offentlige rapport – og den ret blev brugt i stort omfang.
METR skrev på X, at Anthropic fjernede størstedelen af den dokumentation, forskerne selv fandt mest oplysende. I rapporten står der også: “As a consequence [of the redactions], the public has to rely on METR’s judgment much more than would be ideal, given the weight of the questions answered here,”.
Anthropic-medstifter Sam McCandlish erkendte også problemet i et opslag på X. Han skrev: “We redacted a lot, and I accept that this makes it harder for others to check METR’s work,”.
Forskere frygter mindre gennemsigtighed og mere fart
Reaktionerne handler ikke kun om tempoet, men også om kontrollen. Flere forskere og kommentatorer mener, at rapporten viser, hvor svært det er for offentligheden at vurdere, hvor hurtigt de førende AI-selskaber bevæger sig, og hvilke risici der følger med.
Ifølge The Verge mener flere i feltet, at rapporten kan være et tegn på, at såkaldt rekursiv selvforbedring – altså AI-systemer, der i stigende grad kan udvikle bedre efterfølgere – kan være tættere på end ventet. Det er dog stadig en vurdering og ikke noget, rapporten fastslår som et faktum.
Kritikken er samtidig vokset, fordi Anthropic længe har profileret sig som en af branchens tydeligste stemmer for sikkerhed og ansvarlig udvikling. Når selskabet samtidig ser ud til at øge farten internt, lægger det ekstra pres på krav om mere uafhængigt tilsyn og større åbenhed fra de største AI-laboratorier.