Was ist passiert?
Die South China Morning Post berichtet, dass sich der KI-Wettbewerb zwischen den USA und China zunehmend auf rekursive Selbstverbesserung konzentriert: Systeme, die KI nutzen, um fähigere Nachfolger zu erforschen, auszubilden und zu bewerten. US-amerikanische Unternehmen scheinen in der KI-gestützten Forschung schon früh führend zu sein, während chinesische Labore entsprechende Selbsttrainings- und „Selbstentwicklungs“-Ansätze entwickeln. Dem Bericht zufolge hat keine der beiden Seiten einen ergebnisoffenen, völlig autonomen Verbesserungskreislauf nachgewiesen.
Die South China Morning Post berichtet, dass führende US-amerikanische und chinesische KI-Unternehmen fortschrittliche Modelle einsetzen, um Code zu schreiben, Experimente zu entwerfen und Trainingstechniken für stärkere Modelle zu entwickeln. Als langfristiges Ziel beschreibt es eine rekursive Selbstverbesserung, bei der KI-Systeme selbstständig zur Ausbildung und Verbesserung von Nachfolgesystemen beitragen. In dem Bericht heißt es, OpenAI habe kürzlich die Arbeit an einem automatisierten KI-Forscher beschrieben und gleichzeitig die Unsicherheit darüber anerkannt, wie eine vollständig abgestimmte rekursive Selbstverbesserung sicher erreicht werden könne.
Dem Bericht zufolge scheinen US-Unternehmen derzeit mehrere Monate voraus zu sein, wenn es darum geht, KI zur eigenständigen Durchführung von KI-Forschung einzusetzen. Es zitiert Anthropics berichtete Arbeit über die Verwendung von Claude-Modellen zum Entwerfen von Experimenten, Schreiben von Code und Entwickeln von -Techniken sowie Google DeepMinds Beschreibung von Gemini 3.8 Flash als geeignet für langfristiges Software-Engineering und autonome Agenten. In dem Bericht heißt es außerdem, dass OpenAI einen automatisierten Forschungspraktikanten gemeldet habe, der in der Lage sei, einige Experimente durchzuführen, für die ein erfahrener Forscher mehrere Tage in Anspruch nehmen würde. Diese Behauptungen werden der South China Morning Post und den darin zitierten Unternehmen oder Forschern zugeschrieben; sie werden hier nicht unabhängig bestätigt.
Dem Bericht zufolge verfolgen chinesische Labore ähnliche Ziele unter Begriffen wie „Selbstentwicklung“ und „vollständige Selbstausbildung“. Tang Jie, Gründer von Z.ai, beschrieb Berichten zufolge eine Roadmap für GLM-6.0, in der KI die Trainingspipeline vom Vortraining bis zum Posttraining verwalten würde. In dem Bericht werden auch Arbeiten im Zusammenhang mit MiniMax und DeepSeek erörtert, wobei auf die Kritik von Experten hingewiesen wird, dass autonome Agenten und Selbsttrainingsfunktionen noch keine echte rekursive Verbesserung darstellen. Eine zentrale ungelöste Frage ist, ob ein System entscheiden kann, wann eine Änderung tatsächlich eine Verbesserung darstellt, ohne sich auf eine separate menschliche Autorität zu verlassen.
Warum es wichtig ist
Wenn KI-Systeme die Methoden zum Aufbau ihrer Nachfolger zuverlässig verbessern können, könnte sich der Fortschritt beschleunigen und die Kontrolle erschweren. Der Bericht beschreibt potenzielle Vorteile bei der Softwareentwicklung, dem Experimentdesign und der Trainingseffizienz, warnt aber auch davor, dass fehlerhafte Modelle Fehler oder Fehlausrichtungen an spätere Generationen weitergeben könnten. Die praktische Bedeutung bleibt ungewiss, da aktuelle Systeme immer noch auf menschliches Urteilsvermögen, Recheninfrastruktur und externe Bewertung angewiesen sind.
Durch rekursive Selbstverbesserung könnte eine Rückkopplungsschleife entstehen, in der KI dabei hilft, leistungsfähigere Modelle zu erstellen, was möglicherweise die Entwicklungszyklen verkürzt und die strategische Bedeutung von Rechenleistung, Forschungsinfrastruktur und Evaluierung erhöht. In dem Bericht heißt es, US-Analysten sehen einen Vorteil im amerikanischen Zugang zu Computern, während chinesische Forscher als effektiv beschrieben werden, wenn es darum geht, Leistung aus begrenzterer Hardware herauszuholen.
Sicherheitsbedenken sind von zentraler Bedeutung, da das Training zukünftiger Systeme mit fehlerhaften Vorgängern zu Fehlern oder Fehlausrichtungen führen könnte. Der Bericht zitiert Warnungen von Forschern beider Länder vor Beschleunigung, Sandbox-Flucht und möglichen Folgen für die nationale Sicherheit. Es wird jedoch auch berichtet, dass grundlegende architektonische Durchbrüche und Beurteilungen darüber, ob Änderungen vorteilhaft sind, immer noch von menschlichem Fachwissen abhängen. Der Umfang, die Geschwindigkeit und die Zuverlässigkeit zukünftiger rekursiver Verbesserungen sind weiterhin unbekannt.
Interaktiver Mechanismus: Wie es tatsächlich funktioniert
Entdecken Sie interaktiv die zugrunde liegende Technologie, die dieser Entwicklung zugrunde liegt.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Was Sie als nächstes sehen sollten
Achten Sie auf unabhängig überprüfbare Demonstrationen, dass ein KI-System ohne einen separaten, vom Menschen definierten Prüfer Verbesserungen vorschlagen, implementieren und beurteilen kann. Achten Sie auch darauf, ob Unternehmen Sicherheitsbewertungen, Einsatzgrenzen und Nachweise veröffentlichen, dass Systeme zur Selbstverbesserung keine Fehler verstärken oder Schutzmaßnahmen umgehen. Es werden keine Zugangsbedingungen, Preise oder allgemeine Verfügbarkeit dokumentiert, da es sich bei dem Bericht eher um Forschung und Entwicklung als um eine öffentliche Produkteinführung handelt.
Der wichtigste Beweis wäre ein reproduzierbares System, das selbstständig sinnvolle Änderungen identifiziert, diese umsetzt, die Ergebnisse auswertet und den eigenen Bewertungsprozess verbessert. Die South China Morning Post berichtet, dass die öffentlichen Beweise für diese unbegrenzte Fähigkeit nach wie vor dürftig sind, sodass Behauptungen über „Selbstevolution“ nicht als Beweis für autonome rekursive Selbstverbesserung gewertet werden sollten.
Der Bericht dokumentiert keine öffentliche Veröffentlichung, keinen Verbraucherzugang, keine Preise oder keinen Bereitstellungsplan für die besprochenen Systeme. Es erfolgt auch keine unabhängige Validierung der Leistungsansprüche der Unternehmen. Zukünftige Berichte sollten ermitteln, welche Aufgaben diese Systeme ohne menschliches Eingreifen erledigen können, welche Schutzmaßnahmen sie einschränken, wie Ergebnisse gemessen werden und ob Fehler erkannt werden, bevor Änderungen die Produktionssysteme erreichen.