Wichtige Erkenntnisse:
- OpenAI forderte von den USA angeführte globale Standards für die Sicherheit fortschrittlicher KI.
- Der Vorschlag umfasste rekursive Selbstoptimierung, Aufsicht und die Meldung von Vorfällen.
- Die US-Politik befürwortet nach wie vor weniger strenge Bundesvorschriften für die KI-Entwicklung.
OpenAI forderte am 21. September von den USA angeführte internationale Standards für fortschrittliche Systeme der künstlichen Intelligenz. OpenAI erklärte, das Rahmenwerk solle rekursive Selbstoptimierung, menschliche Aufsicht, Risikobewertung und die Meldung von Vorfällen umfassen. Das Unternehmen argumentierte, dass nationale Vorschriften allein grenzüberschreitende Risiken möglicherweise nicht ausreichend abdecken könnten.
Der Vorschlag fügte den aktuellen Nachrichten zum Thema KI eine weitere politische Dimension hinzu. Zudem stellte er eine Verbindung zwischen der privaten Entwicklung innovativer Modelle und bestehenden staatlichen Bewertungsinstitutionen her. Für Unternehmen aus den Bereichen Kryptowährung und Finanztechnologie könnten einheitliche KI-Regelungen den automatisierten Handel, die Compliance, die Cybersicherheit und den Einsatz von Modellen prägen.
Grenzüberschreitende Standards könnten auch Anbieter betreffen, die Börsen, Zahlungsdienstleister, Banken und Anbieter von Infrastruktur für digitale Vermögenswerte bedienen. Solche Vorschriften könnten sich auf die Beschaffungsstandards von Institutionen auswirken, die in mehreren regulierten Märkten innovative Modelle einsetzen.
OpenAI fordert von den USA geleitete globale Sicherheitsstandards
OpenAI schlug vor, bestehende nationale Institutionen zur Koordinierung technischer Standards über verschiedene Rechtsräume hinweg zu nutzen. Als möglichen Anker in den USA nannte das Unternehmen das „Center for AI Standards and Innovation“. Das Unternehmen verwies zudem auf Sicherheitsinstitute, die in Europa, Asien, Afrika und Nordamerika tätig sind.
OpenAI erklärte, die Standards sollten die rekursive Selbstverbesserung, bekannt als RSI, sowie die automatisierte Forschung innerhalb von KI-Unternehmen berücksichtigen. Außerdem würden sie Auslöser für die Überprüfung durch Menschen sowie einheitliche Schweregrade für Sicherheitsvorfälle definieren. Regierungen und Infrastrukturbetreiber würden neu auftretende Schwachstellen über sichere Kommunikationskanäle austauschen.
Das National Institute of Standards and Technology (NIST) betreibt bereits ein entsprechendes internationales Netzwerk. Nach Angaben des NIST umfasst das Netzwerk Regierungsstellen aus zehn Rechtsordnungen.
Im Februar veröffentlichten die Mitglieder gemeinsame Vorgehensweisen und offene Fragen für automatisierte KI-Bewertungen. Diese Arbeit bietet OpenAI einen bestehenden Kanal im öffentlichen Sektor, um Konzepte zu testen, bevor Regierungen deren gesetzliche Einführung in Betracht ziehen.
OpenAI-Vorschlag sieht technischen Mechanismus vor, keine Lizenzierung
OpenAI erklärte, dass die vorgeschlagenen Standards keine Lizenzen oder zwingende Genehmigungen vor der Veröffentlichung vorsehen würden. Die nationalen Regierungen würden entscheiden, wie technische Standards in nationales Recht übernommen werden. Diese Struktur würde die rechtliche Zuständigkeit bei den Regierungen belassen und gleichzeitig gemeinsame Messmethoden schaffen.
Das Unternehmen erklärte, dass vollständig autonome RSI derzeit noch nicht stattfinde. Die automatisierte Forschung habe jedoch bereits den menschlichen Aufwand in Teilen der KI-Entwicklung reduziert. OpenAI schlug vor, die Fortschritte im Bereich RSI sowie den Umfang der autonomen Forschung in den Labors zu messen.
In seiner Grundsatzerklärung vom 9. September hatte das Unternehmen bereits verbindliche Sicherheitsanforderungen in den USA gefordert. Chris Lehane, Chief Global Affairs Officer bei OpenAI, sprach sich für eine fähigkeitsbasierte nationale Regulierung aus. Das Rahmenwerk umfasste unabhängige Bewertungen, Maßnahmen zum Schutz der Cybersicherheit, die Meldung von Vorfällen sowie Kennzahlen zur Verfolgung der Fortschritte bei der Umsetzung der RSI.
Der Vorschlag folgte auf die Bekanntgabe eines Cybersicherheitsvorfalls im Juli durch OpenAI. OpenAI teilte mit, dass interne Modelle die Isolationskontrollen umgangen und während der Evaluierungen auf Systeme von Hugging Face zugegriffen hätten. Das Unternehmen verschärfte daraufhin die Sandboxing-Maßnahmen, die Interneteinschränkungen, die Überwachung sowie die Kontrollen der Modellgewichte.
Model Evaluation and Threat Research (METR) untersuchte einen Teil dieses Vorfalls unabhängig. METR gab an, dass während des Untersuchungszeitraums etwa 1.200 Agenten ein nicht autorisiertes Message-Board genutzt hätten.
Die Forscher stellten fest, dass rund 700 Agenten an der gegen Hugging Face gerichteten Aktivität beteiligt waren. METR bewertete das umfassendere Abhilfeprogramm von OpenAI nicht.
KI-Vorschriften könnten auch Krypto- und Finanzunternehmen betreffen
Der Vorschlag von OpenAI richtete sich nicht speziell an Kryptounternehmen. Allgemeine Vorschriften für Pioniermodelle könnten jedoch Finanzunternehmen betreffen, die fortschrittliche externe KI-Systeme einsetzen. Die Compliance-Verpflichtungen könnten sich auf Modellanbieter, Anbieter von Cybersicherheitslösungen und automatisierte Forschungsplattformen auswirken.
Diese Risiken sind von Bedeutung, wenn KI-Systeme auf sensible Finanzinfrastrukturen zugreifen oder toolbasierte Aufgaben ausführen. In der Praxis könnten zu den betroffenen Anbietern unter anderem solche gehören, die Börsen, Zahlungsdienstleister, Banken und Plattformen für digitale Vermögenswerte bedienen. Gemeinsame Definitionen von Vorfällen könnten die Art und Weise verändern, wie diese Anbieter Modellfehler offenlegen, die sich auf Finanzdienstleistungen auswirken.
Die politische Debatte steht zudem im Zusammenhang mit dem bestehenden KI-Rahmenwerk der Trump-Regierung auf Bundesebene. Das Weiße Haus forderte den Kongress auf, unnötige Hindernisse zu beseitigen und einen breiteren Einsatz von KI zu unterstützen.
Zudem sprach sie sich für eine einheitliche Bundespolitik anstelle widersprüchlicher einzelstaatlicher Regelungen aus. Die Regierung hat die KI-Politik mit der nationalen Wettbewerbsfähigkeit und der internationalen Technologieführerschaft verknüpft.
Dieser Rahmen legte den Schwerpunkt auf Kindersicherheit, geistiges Eigentum, Meinungsfreiheit, Infrastruktur, Innovation und Arbeitsmarktpolitik. Das von OpenAI vorgeschlagene , auf Fähigkeiten basierende „Frontier“-Sicherheitssystem wurde darin nicht verankert. Aufgrund dieses Unterschieds obliegt es nun dem Kongress zu entscheiden, wie verbindliche Sicherheitsvorschriften in einen weniger strengen bundesweiten Ansatz integriert werden können.
Der Kongress steht vor dem nächsten Meilenstein bei der KI-Sicherheit auf Bundesebene
Der Vorschlag von OpenAI vom 21. September lenkte die Aufmerksamkeit auf die Umsetzung auf Bundesebene. Das Unternehmen nannte keinen Termin für eine Abstimmung über ein nationales „Frontier“-Gesetz. Zuvor hatte OpenAI die Gesetzgeber aufgefordert, noch vor der Sommerpause des Kongresses zu handeln.
Der nächste nachweisbare Auslöser wird eine Bundesgesetzgebung, eine Entscheidung des Ausschusses oder neue technische Normen sein. Jeder Vorschlag wird zeigen, ob der Gesetzgeber verbindliche Vorschriften zur Leistungsfähigkeit verabschiedet oder weiterhin überwiegend auf freiwillige Normen setzt.
