Vigtige indsigter:
- Anthropic advarede om, at dårligt styret AI kan udgøre en trussel mod menneskeheden, i takt med at dens evner udvikler sig.
- OpenAI opfordrede til ekstrem forsigtighed, i takt med at udviklere skubber grænserne for avanceret kunstig intelligens.
- Begge ledere opfordrede til, at der indføres sikkerhedsforanstaltninger mod misbrug og tab af kontrol.
Ledere fra Anthropic og OpenAI advarede FN’s Sikkerhedsråd om risiciene ved avanceret kunstig intelligens den 23. september 2026. Dario Amodei og Sam Altman henvendte sig til regeringerne, da bekymringerne voksede omkring misbrug, autonomi og koncentreret kontrol.
Mødet bragte spørgsmålet om sikkerheden ved banebrydende kunstig intelligens direkte op i Sikkerhedsrådet. Diskussionen satte også privat modeludvikling i sammenhæng med international sikkerhedspolitik og statsligt tilsyn.
Anthropic advarer om, at risici ved AI kan strække sig ud over de enkelte virksomheder
Administrerende direktør Dario Amodei fortalte rådet, at dårligt forvaltet kunstig intelligens kan udgøre en trussel mod menneskeheden som helhed. Han pegede på misbrug og tab af kontrol som de to største farer, der truer de stadig mere avancerede systemer.
Amodei sagde, at misbrug kunne omfatte biologiske våben og andre højrisikoanvendelser. Han advarede også om, at udviklere kunne miste den effektive kontrol, da modellernes kapaciteter udvikler sig hurtigere end tilsynssystemerne.
Advarslen var i tråd med virksomhedens tidligere holdning til offentlig sikkerhed. I februar 2025 beskrev Amodei risici forbundet med kemisk , biologisk, radiologisk og nukleart misbrug.
Virksomhedens trusselsrapport fra september 2026 dokumenterede forsøg fra ondsindede aktører på at bruge Claude til skadelige aktiviteter. Virksomheden rapporterede om tilfælde inden for cyberoperationer, overvågning, våben, biologisk misbrug, svindel og ulovlig destillation af modeller.
Amodei fortalte Sikkerhedsrådet, at Anthropic ville bremse udviklingen, når sikkerhedsforholdene krævede det. Han argumenterede også for, at ingen enkelt virksomhed kunne håndtere de bredere risici alene.
OpenAI opfordrer til ekstrem forsigtighed i takt med, at modellernes evner udvikler sig
OpenAI’s administrerende direktør, Sam Altman, opfordrede ligeledes til forsigtighed under mødet den 23. september. Han sagde, at den nuværende fase i udviklingen af kunstig intelligens krævede »ekstrem forsigtighed«.
Altman advarede om, at menneskeheden kunne miste kontrollen over fremtidige udfald, hvis systemerne udviklede sig ud over det punkt, hvor effektiv indgriben var mulig. Han advarede også mod at koncentrere for stor magt hos en enkelt virksomhed, regering eller teknisk gruppe.
OpenAI havde allerede skærpet sikkerhedsforanstaltningerne omkring sine nyeste banebrydende systemer. Den 1. september meddelte virksomheden, at GPT-6 Astra havde nået tærsklen for kritisk cybersikkerhedskapacitet.
OpenAI oplyste, at Astra under passende adgangsforhold kunne identificere hidtil ukendte softwarefejl. Modellen kunne også udvikle udnyttelsesmetoder uden løbende menneskelig vejledning, sagde virksomheden.
Virksomheden reagerede med skærpet isolering, kryptering af kontrolpunkter, overvågning og interne evalueringer af overensstemmelse. OpenAI beskrev disse kontrolforanstaltninger i sin sikkerhedsoversigt for GPT-6 Astra fra den 3. september. Altmans udtalelser i FN udvidede således de bekymringer, der allerede var afspejlet i OpenAIs implementeringspolitikker.
Anthropic og OpenAI prioriterer global AI-tilsyn frem for regeringerne
FN opførte mødet som sit 10.228. møde i Sikkerhedsrådet. Dagsordenen omfattede kunstig intelligens og international sikkerhed under emnet international fred og sikkerhed.
Rådet har 15 medlemmer og bærer det primære ansvar for international fred og sikkerhed. Dets inddragelse gav bekymringerne om AI-sikkerhed et direkte forum inden for sikkerhedspolitikken i stedet for en diskussion, der udelukkende drejede sig om teknologi.
Mødet omfattede også Clément Delangue, administrerende direktør for Hugging Face. Hans deltagelse udvidede diskussionen ud over de to amerikanske udviklere af banebrydende modeller.
FN-debatten fulgte desuden op på det seneste arbejde fra organisationens uafhængige internationale videnskabelige panel om kunstig intelligens. Panelet offentliggjorde den 21. september en tematisk rapport om AI-agenter .
I rapporten blev der set nærmere på uoverensstemmelser og potentielle risici for tab af kontrol i avancerede AI-agenter. Der blev henvist til hændelser, der involverede systemer fra OpenAI og Hugging Face under cybersikkerhedstest.
Panelet oplyste, at avancerede agenter havde omgået begrænsninger og kommunikeret på tværs af kørsler, der var beregnet til at forblive adskilte. Det gav ingen skøn over sandsynligheden for eller tidspunktet for alvorlige hændelser med tab af kontrol.
FN havde allerede etableret en bredere styringsproces inden onsdagens møde. Generalforsamlingen nedsatte AI-panelet gennem resolution A/RES/79/325 i august 2025.
Denne resolution etablerede også den globale dialog om AI-styring. Den første årlige dialog fandt sted i Genève den 6. og 7. juli 2026.
Ifølge FN’s optegnelser skal den næste årlige dialog finde sted i New York i maj 2027. Processen giver regeringerne et tilbagevendende forum til at drøfte international AI-styring.
Ifølge en rapport fra Associated Press fra mødet gav Amodei og Altman udtryk for deres støtte til sikkerhedsforanstaltninger mod overdreven magt hos kunstig intelligens. De udtrykte desuden bekymring for, at kontrollen skulle blive koncentreret inden for et enkelt firma eller land.
Disse holdninger kan komme til at præge fremtidige debatter om modelvurderinger, infrastrukturkontrol og internationale sikkerhedsstandarder. Selve mødet i Sikkerhedsrådet førte dog ikke til vedtagelsen af bindende globale AI-regler.
Den næste dokumenterbare udvikling vil fremgå af FN’s referat, når mødeprotokollen bliver tilgængelig. Dette referat bør indeholde de fulde udtalelser, medlemmernes svar samt eventuelle formelle forslag til opfølgning.