Vigtige indsigter:
- Anthropic AI advarer om, at små modeller snart kan blive replikeret på billig IoT-hardware.
- David Sacks siger, at kontrollerede tests ikke underbygger de mest vidtgående trusselspåstande.
- Kun GLM-5.2 gennemførte en fuldstændig replikering i Anthropics forenklede forsøg.
David Sacks har stillet spørgsmålstegn ved Anthropics AI-advarsel om, at små modeller kan sprede sig på billig, forbundet hardware. Anthropic sagde, at kompakte systemer kan opnå evnen til autonom replikering inden for få måneder. Dets forskere testede modeller på Android TV-bokse og simulerede cloud-enheder.
Sacks stillede spørgsmålstegn ved, om disse kontrollerede resultater retfærdiggør rapportens bredere trusselsvurdering. Bevismaterialet viser betydelige fremskridt, men det viser ikke, at der findes en ukontrolleret AI-orm, der opererer online. Denne skelnen er nu drivkraften bag en bredere debat om selvreproducerende AI, cybersikkerhed og regulering.
Anthropics rapport forudsiger fremtidige risici baseret på aktuelle tendenser inden for kapacitet, ikke et bekræftet angreb. Virksomheden offentliggjorde undersøgelsen den 12. oktober.
Anthropics AI-advarsel fokuserer på replikering af små modeller
Anthropics Frontier Red Team undersøgte, om kompakte modeller kunne kopiere sig selv og starte op på ukendt hardware. Forskerne William Zhou og Daniel Freeman opdelte den autonome replikering i flere trin. Disse omfattede at finde mål, opnå adgang, opsætte inferens og fortsætte spredningen.
Den antropiske AI-advarsel fokuserer på modeller uden en central server eller et nedlukningspunkt. Forskere har udtalt, at disse systemer kan sprede sig langsomt, med en fordobling målt i dage. Alligevel kan de tilpasse sig ukendte miljøer bedre end konventionel malware.
I et eksperiment blev Gemma4-26B-A4B fordelt på 15 Android TV-bokse fra ukendte mærker. Hver boks kostede omkring 55 dollars og indeholdt en del af modellen. Samlet set producerede enhederne 0,39 tokens pr. sekund. Den lave hastighed gjorde opsætningen upraktisk til normal brug. Alligevel beviste det, at billige IoT-enheder samlet set kunne huse en velfungerende model.
David Sacks sætter spørgsmålstegn ved beviserne for den antropiske AI-advarsel
Sacks fremstillede rapporten som endnu en advarsel fra det, han kaldte »Anthropic Fear Factory«. Han spurgte, om små modeller virkelig udgør den fare, som overskriften antyder. Hans svar fokuserede på afstanden mellem eksperimentet og et reelt angreb.
Dette hul fremgår tydeligt af Anthropics egen metodologi. Forskerne anvendte et netværk med firewall bestående af otte simulerede Android-noder. De lod desuden en uautentificeret Android-debugging-port stå åben. Dette gjorde adgangen bevidst nem og fjernede en væsentlig barriere, som man normalt møder i virkeligheden.
Ormens styringsmodel kørte på en separat inferensserver. De simulerede noder kunne ikke direkte huse det større system. Anthropic erkendte også, at designet udgjorde en øvre grænse for, hvor succesfuldt det ville være i praksis. Disse begrænsninger underbygger Sacks’ skepsis, selvom de ikke fjerner sikkerhedsspørgsmålene.
Anthropics advarsel om kunstig intelligens bygger derfor delvist på ekstrapolering. Deres skøn for slutningen af 2026 tager udgangspunkt i historiske fremskridt i et generelt kompetenceindeks. Anthropic beskrev denne tidsramme som omtrentlig, da indekset kun giver et tilnærmelsesvist billede af replikeringsfærdighederne.
Hvad IoT-testene viser om selvreproducerende AI
Qwen3.5-9B formåede at etablere inferens på otte ud af ni hardwaretyper. Modeller med under 30 milliarder parametre gennemførte også mange separate replikeringsopgaver. De fejlede dog ofte, når de skulle kombinere hvert trin pålideligt.
GLM-5.2 var den eneste testede model i den åbne vægtklasse, der gennemførte den forenklede ende-til-ende-proces. Den nåede frem til alle otte noder i fire ud af fem forsøg. I det resterende forsøg nåede den frem til syv noder. Anthropic udtalte, at dette tyder på, at mindre modeller kan opnå tilsvarende evner, efterhånden som ydeevnen forbedres.
Risikoen ved selvreproducerende kunstig intelligens er fortsat teoretisk uden for kontrollerede forsøg. Anthropic har udtalt , at der på nuværende tidspunkt ikke findes nogen fuldt autonome, ukontrollerede replikatorer. Usikre IoT-enheder udgør imidlertid allerede et stort angrebsmål for hackere. Hurtigere modeller og en voksende mængde edge-hardware kan sænke den tekniske barriere.
Rapporten foreslog netværksovervågning, karantæneforanstaltninger hos internetudbydere, bedre standardindstillinger på enheder og skærpet sikkerhed hos producenterne. Overførsel af store modeller ville skabe trafikmønstre, som sikkerhedsfolk kunne opdage. Fjernelse af standardadgangskoder kunne ligeledes mindske antallet af sårbare enheder. Anthropic påpegede, at standardadgangskoder til IoT-enheder allerede nu ikke overholder kravene på det britiske marked.