Was ist passiert?
Die South China Morning Post berichtet, dass Forscher chinesischer Universitäten und Technologieunternehmen einen Artikel veröffentlicht haben, der fünf Phasen der rekursiven Selbstverbesserung beschreibt, von der Durchführung von von Menschen entworfenen Upgrades bis hin zur kontinuierlichen Verfeinerung der Methoden zur Verbesserung von KI-Systemen. Das Papier stellt dies als eine Forschungsrichtung dar, nicht als ein demonstriertes Produkt.
Die South China Morning Post berichtet, dass Forscher von ByteDance, der Tsinghua-Universität, dem Shanghai Artificial Intelligence Laboratory und anderen Institutionen „The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement“ veröffentlicht haben. Das Papier beschreibt fünf progressive Stufen für die rekursive Selbstverbesserung (RSI). Zunächst würde eine KI von menschlichen Ingenieuren entworfene Verbesserungsverfahren ausführen. Anschließend würde es Upgrade-Strategien auswählen, bestimmen, welche Informationen oder Erfahrungen benötigt werden, sich nach der Bereitstellung anpassen und schließlich die Methoden zur Verbesserung der KI selbst verfeinern.
Der Bericht unterscheidet RSI von einem Chatbot, der eine einzelne Antwort korrigiert. Damit eine Verbesserung als RSI qualifiziert werden kann, muss die Änderung über eine Aufgabe hinaus bestehen bleiben und von Nachfolgesystemen übernommen werden. Die Forscher argumentieren, dass die Automatisierung von Teilen der Schulung, Bewertung und Feinabstimmung die Entwicklungszyklen verkürzen und die Arbeits- und Rechenkosten senken könnte. Dabei handelt es sich jedoch eher um Behauptungen der Autoren als um unabhängig nachgewiesene Ergebnisse im vorgelegten Bericht.
Der Artikel beschreibt auch entsprechende Bemühungen chinesischer Unternehmen. Berichten zufolge plant Z.ai, etwa 60 Prozent des Erlöses aus einer 5-Milliarden-US-Dollar-Spendenrunde in GLM-Modelle der nächsten Generation und ein Selbsttrainingssystem zu stecken. Forscher im Zusammenhang mit MiniMax 2.7 beschrieben Berichten zufolge Speicheraktualisierungen und Reinforcement-Learning-Experimente, während DeepSeek Berichten zufolge ein Agentensystem für mehrstufige Aufgaben, Codeausführung und externe Softwareinteraktion entwickelt hat. Diese Beispiele belegen nicht, dass irgendein Unternehmen die letzte RSI-Stufe des Papiers erreicht hat.
Warum es wichtig ist
Die Automatisierung von Teilen der KI-Forschung könnte sich darauf auswirken, wie schnell und kostengünstig Entwickler zukünftige Modelle trainieren, während gleichzeitig mehr Kontrolle über die Modellverbesserung vom Menschen auf KI-Systeme verlagert wird. Der Vorschlag hebt auch eine zentrale Sicherheitsherausforderung hervor: Systeme, die ihre eigenen Verbesserungsprozesse ändern, könnten vor dem Einsatz zuverlässige Tests und Überwachung erfordern. Der Bericht liefert keine Beweise dafür, dass die letzten Etappen erreicht wurden.
Wenn sie zuverlässig sind, könnten Systeme, die Teile der KI-Forschung automatisieren, zu einem Wettbewerbsvorteil werden, indem sie es Entwicklern ermöglichen, mehr Experimente durchzuführen und Modelle mit weniger direkter menschlicher Arbeit zu verbessern. Dies könnte das Tempo und die Kosten der Entwicklung des Stiftungsmodells beeinflussen, obwohl der Bericht keine unabhängigen Messungen dieser Auswirkungen liefert.
Der Vorschlag hat auch Konsequenzen für die KI-Sicherheit. Die Forscher sagen, dass echtes RSI strenge Sicherheitsvorkehrungen und verifizierte Testumgebungen erfordern würde, damit Updates vor der Bereitstellung nachweislich sicher und vorteilhaft sind. Der bereitgestellte Bericht überprüft nicht unabhängig die Roadmap, die damit verbundenen Unternehmensansprüche oder die Wirksamkeit der vorgeschlagenen Schutzmaßnahmen.
Interaktiver Mechanismus: Wie es tatsächlich funktioniert
Entdecken Sie interaktiv die zugrunde liegende Technologie, die dieser Entwicklung zugrunde liegt.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Was Sie als nächstes sehen sollten
Das Papier gibt keinen Zeitplan für das Erreichen einer echten rekursiven Selbstverbesserung. Es gibt keinen dokumentierten Produktzugang, Preise oder allgemeine Verfügbarkeit. Zu den wichtigsten Unbekannten gehört, ob die vorgeschlagenen Phasen außerhalb der Softwareentwicklung zuverlässig funktionieren können, wie viel Rechenleistung sie benötigen und ob Sicherheitsmaßnahmen schädliche oder ineffektive Updates erkennen können.
Die Forscher geben keinen Zeitplan für die Erreichung eines echten RSI an, und die South China Morning Post berichtet nicht über ein funktionierendes System, das das Endstadium erreicht hat. Der Zugriff auf die beschriebene Forschung ist nicht spezifiziert und es sind keine Produktpreise oder allgemeine Verfügbarkeit dokumentiert.
Der Fortschritt kann je nach Fachgebiet erheblich unterschiedlich sein. Berichten zufolge sehen die Autoren Software-Engineering als einen klareren Weg, während Robotik und wissenschaftliche Entdeckungen schwierigere technische Herausforderungen darstellen. Eine weitere Einschränkung stellt die Rechenverfügbarkeit dar: In dem Bericht wird ein Experte zitiert, der sagt, dass US-Unternehmen noch mehrere Monate voraus seien und über mehr Rechenleistung bei der Bereitstellung verfügen, während chinesische Forscher weiterhin unter Hardware-Einschränkungen optimieren.
In künftigen Berichten sollte festgestellt werden, ob beanspruchte Selbsttrainingssysteme dauerhafte, reproduzierbare Verbesserungen bewirken, wie Aktualisierungen bewertet werden und ob weiterhin eine menschliche Zustimmung erforderlich ist. In der bereitgestellten Quelle werden keine unabhängigen Testergebnisse bereitgestellt.