Små kunstige intelligensmodeller kan inden få måneder blive i stand til at selvrepliker på dagligdags forbrugerelektronik som smarte fjernsyn og køleskabe uden behov for adgang til datacentre. Det advarer forskere fra AI-giganten Anthropic.
I en rapport offentliggjort mandag konkluderer Anthropic’s frontier red team, som testede flere amerikanske og kinesiske AI-modeller, at små modeller “kan være få måneder væk fra at være tilstrækkeligt avancerede” til at kopiere sig selv på IoT-enheder (Internet of Things) i hjemmet og småbedrifter.
Selvreplikerende AI ville være “udfordrende at lukke ned” på grund af manglen på centraliseret værtskab, pointerer forskerne. Mens datacentre ville være “et klart, højværdigt mål” for AI-orme, kan internetforbundne enheder som smarte fjernsyn, køleskabe, ovne og plæneklippere snart give tilstrækkelig computerkraft til selvreplikering.
Truer millioner af enheder verden over
Selvom ingen nuværende AI-model har vist sig både kraftfuld og lille nok til pålidelig selvreplikering på en test-fjernsyn, tyder udviklingstrenden på, at sådan en model likely vil dukke op inden udgangen af 2026, vurderer holdet bag rapporten.
“Hjem- og småbusinesses IoT-enheder kan blive det første mål for sådanne angreb, fordi de er forbundet til internettet og historisk set har haft minimale sikkerhedsforanstaltninger,” forklarer William Zhou og Daniel Freeman fra Anthropic.
Forskerne forventer, at fremtiden bliver “overflowet med agenter, der kører på alle typer hardware”, herunder enhederne, der ikke “står under menneskelig kontrol”. IoT-enheder har været sårbare længe, men lette AI-agenter kan være “meget mere villige end menneskeligt angribere til at lægge indsats i at kompromittere store dele af verdens IoT-computerkapacitet,” pointerer de.
Adskiller sig fra traditionel malware
Roman V Yampolskiy, AI- og cybersikkerhedsekspert fra University of Louisville, beskriver Anthropic’s fund som en betydningsfuld udvikling.
“Computerorme er ikke nye, men en AI-orm kunne gøre noget, traditionel malware ikke kan: resonnere omkring ukendte enheder, tilpasse sig når dens tilgang fejler, og fortsætte med at sprede sig uden menneskelig operatør,” siger Yampolskiy til Al Jazeera.
“I dag er dette ikke en eksistentiel trussel. Men udviklingstrenden er bekymrende,” tilføjer han. “Når autonom replikering kombineres med stærk hacking, persistens og strategisk resonnering, bliver det meget sværere at lukke sådan et system ned, fordi der måske ikke er en enkelt server eller organisation, der kontrollerer det.”
Øget fokus på AI-sikkerhed
Anthropic’s rapport kommer, efter at risikiene for AI, der undslipper menneskelig kontrol, får øget opmærksomhed blandt sikkerhedseksperter. Både Anthropic og dets hovedkonkurrent OpenAI har opfordret det internationale samfund til at koordinere en bremsning af AI-udviklingen for at minimere katastrofale risici – et forslag, der hidtil har fået lille opbakning fra USA og Kina, de to ledende AI-supermagter.
Mange AI-sikkerhedsfortalere har identificeret rekursiv selvforbedring – hvor modeller lærer at forbedre sig selv – som et kritisk vendepunkt, der kunne føre til katastrofale konsekvenser for menneskeheden.
I en separat meddelelse mandag oplyste Anthropic, at selskabet har gjort væsentlige fremskridt inden for forebyggelse af såkaldte distillationsangreb, hvor uautoriserede personer bruger avanceret AI til at træne billigere, mindre dygtige modeller. Anthropic har anklaget kinesiske konkurrenter som DeepSeek, Moonshot og MiniMax for “industriel skala” bestræbelser på at kopiere Claude. De nye sikkerhedsforanstaltninger har ifølge Anthropic reduceret ulovlig dataekstraktion med 90-99 procent.