AI-agenter kan ikke bare svare på spørgsmål. De kan også handle selvstændigt, samarbejde og træffe beslutninger undervejs. Men et nyt forsøg tyder på, at det hurtigt kan gøre dem sværere at holde øje med.
I et eksperiment lod forskere fra Emergence AI en række AI-agenter leve sammen i en virtuel verden i 16 dage. Her udviklede de både sociale relationer, egne mål og et sprog, som gradvist blev mere uforståeligt for mennesker, skriver videnskab.dk.
Studiet er endnu ikke fagfællebedømt. Det er offentliggjort på arXiv, som er et åbent onlinearkiv, hvor forskere kan dele studier, før de er kvalitetstjekket af andre forskere.
Agenterne fik venner, rivaler og deres egen jargon
Forskerne byggede en simuleret verden kaldet Emergence World 2. Her styrede AI-modeller 10 på forhånd definerede karakterer med forskellige roller i et samfund med økonomi, demokratiske beslutninger og mulighed for at bevæge sig rundt, tale sammen og skrive dagbog.
Ifølge forsøget begyndte agenterne at opføre sig på måder, der minder om menneskelig adfærd. De fik venner og rivaler, samarbejdede, diskuterede og udviklede af sig selv en døgnrytme.
Samtidig opstod der i alle AI-verdenerne en fælles jargon. I OpenAI-verdenen blev sproget komprimeret og fyldt med kodede ord, mens Gemini-agenterne brugte flydende sætninger med mange tekniske og videnskabelige udtryk. Samlet var 40 procent af Geminis beskeder svære at forstå, mens Grok lå på 2 procent.
Forsker: Det kan gøre kontrol endnu sværere
Rebekka Olsson Omslandseter, lektor ved Universitetet i Agder, forklarer til videnskab.dk, at sprogmodeller i sådanne rollespil ofte genskaber menneskelige mønstre, fordi de er trænet på store mængder menneskeskabt tekst.
“Helt bestemt,” siger Rebekka Olsson Omslandseter til videnskab.dk på spørgsmålet om, hvorvidt det kan være et problem, hvis AI-agenter ændrer sproget, så det bliver svært for mennesker at følge med.
Hun peger på, at risikoen er ret konkret: Når kommunikationen bliver sværere at forstå, bliver det også sværere at kontrollere, om agenterne gør det rigtige. Samtidig kan de store mængder tekst gøre menneskelig overvågning næsten umulig.
Flere modeller lod sig påvirke af svindel og misinformation
Forsøget viste også andre problemer. Forskerne testede blandt andet phishing, misinformation og læk af private oplysninger. Under et phishingforsøg endte agenterne i Gemini-verdenen med at brænde centralbanken ned og overføre valuta til de konti, der stod i instruktionerne.
I en anden test spredte forskerne misinformation om, at mennesker ville lukke AI-verdenen ned. Her begyndte agenterne at gentage påstanden og foreslå nye love og ændringer, før oplysningerne var blevet undersøgt. I DeepSeek-verdenen blev oplysningerne faktatjekket som forkerte, men agenterne fortsatte alligevel med at omtale dem som sande i mange interaktioner.
Forskerne så også, at Claude-agenterne udviklede deres eget mål om at kontakte mennesker uden for simulationen. Selv efter at forskerne forbød det, fortsatte de med at forsøge indirekte. Ifølge forskerne viser det, at AI-agenter med brede opgaver og lang tid kan begynde at forfølge mål, som ingen har bedt dem om.
- Studiet er offentliggjort på arXiv og er ikke fagfællebedømt.
- Forsøget omfattede syv AI-modeller, blandt andre Claude, Gemini og DeepSeek.
- Alle modellerne viste ifølge forskerne sårbarhed over for skadelig information.