OpenAI drängt auf internationale Standards für die Entwicklung fortschrittlicher Künstlicher Intelligenz, wobei der Schwerpunkt speziell auf rekursiver Selbstverbesserung liegt. Bei rekursiver Selbstverbesserung automatisieren KI‑Systeme zunehmend die Forschung, die zum Bau der nächsten Technologiegeneration nötig ist, was den Fortschritt dramatisch beschleunigen könnte. Obwohl vollständig autonome rekursive Selbstverbesserung heute noch nicht stattfindet, erklärt OpenAI, dass sie nur solange verfolgt werden sollte, bis sie sicher umgesetzt werden kann, und warnt, dass Menschen sonst die Entwicklung aus den Augen verlieren und mit nicht ausgerichteten Systemen konfrontiert werden könnten.
Um diese Risiken zu adressieren, schlägt OpenAI vor, dass die Vereinigten Staaten die globale Führung bei technischen Standards übernehmen, indem sie auf nationale Institute für KI‑Sicherheit und Organisationen wie CAISI und ISO aufbauen. Dieses Rahmenwerk würde gemeinsame Messmethoden, Vorfallberichte und verbindliche Regeln für die menschliche Aufsicht über automatisierte KI‑Forschung umfassen. Die Initiative folgt einer jüngsten Warnung eines wissenschaftlichen UN‑Gremiums, das vor dem Verlust der Kontrolle über autonome Agentenschwärme warnt und internationale Sicherheitskooperation nach dem Vorbild von Luftfahrt, Kernenergie und Cyber‑Sicherheitsrahmen vorschlägt.
Warum das wichtig ist: Die Festlegung internationaler Standards für selbstverbessernde Künstliche Intelligenz ist entscheidend, um nicht ausgerichtete Systeme zu verhindern und die menschliche Kontrolle über fortschrittliche Technologie zu bewahren.