Que s'est-il passé
Le South China Morning Post rapporte que des chercheurs d'universités et d'entreprises technologiques chinoises ont publié un article décrivant cinq étapes d'auto-amélioration récursive, depuis l'exécution de mises à niveau conçues par l'homme jusqu'au raffinement persistant des méthodes utilisées pour améliorer les systèmes d'IA. Le document présente cela comme une direction de recherche et non comme un produit démontré.
Le South China Morning Post rapporte que des chercheurs de ByteDance, de l’Université Tsinghua, du Laboratoire d’intelligence artificielle de Shanghai et d’autres institutions ont publié « La dernière IA construite par des humains : vers une véritable auto-amélioration récursive ». Le document présente cinq étapes progressives pour l’auto-amélioration récursive, ou RSI. Dans un premier temps, une IA exécuterait des procédures d’amélioration conçues par des ingénieurs humains. Il sélectionnerait ensuite des stratégies de mise à niveau, déterminerait les informations ou l’expérience dont il a besoin, s’adapterait après le déploiement et, finalement, affinerait les méthodes utilisées pour améliorer l’IA elle-même.
Le rapport distingue RSI d'un chatbot corrigeant une seule réponse. Pour qu’une amélioration soit considérée comme RSI, le changement devrait persister au-delà d’une tâche et être hérité par les systèmes successeurs. Les chercheurs affirment que l’automatisation de certaines parties de la formation, de l’évaluation et de la mise au point pourrait raccourcir les cycles de développement et réduire les coûts de main-d’œuvre et de calcul, mais ce sont là les affirmations des auteurs plutôt que les résultats démontrés de manière indépendante dans le rapport fourni.
L’article décrit également les efforts connexes déployés par les entreprises chinoises. Z.ai aurait l'intention de consacrer environ 60 % des recettes d'une levée de fonds de 5 milliards de dollars américains à des modèles GLM de nouvelle génération et à un système d'auto-formation. Les chercheurs associés à MiniMax 2.7 auraient décrit des mises à jour de mémoire et des expériences d'apprentissage par renforcement, tandis que DeepSeek aurait développé un harnais agent pour les tâches en plusieurs étapes, l'exécution de code et l'interaction logicielle externe. Ces exemples n’établissent pas qu’une entreprise ait atteint l’étape finale du RSI du document.
Détails de la source: scmp.com ↗
Pourquoi c'est important
L’automatisation de certaines parties de la recherche sur l’IA pourrait affecter la rapidité et la rapidité avec laquelle les développeurs forment les futurs modèles, tout en transférant davantage de contrôle sur l’amélioration des modèles des personnes aux systèmes d’IA. La proposition met également en évidence un défi central en matière de sécurité : les systèmes qui modifient leurs propres processus d'amélioration pourraient nécessiter des tests et une surveillance fiables avant leur déploiement. Le rapport ne fournit aucune preuve que les dernières étapes ont été franchies.
S’ils sont fiables, les systèmes qui automatisent certaines parties de la recherche sur l’IA pourraient devenir un avantage concurrentiel en permettant aux développeurs de mener davantage d’expériences et d’améliorer les modèles avec moins de travail humain direct. Cela pourrait influencer le rythme et le coût du développement du modèle de fondation, bien que le rapport ne fournisse aucune mesure indépendante de ces effets.
La proposition est également conséquente pour la sécurité de l’IA. Les chercheurs affirment qu'un véritable RSI nécessiterait des garanties strictes et des environnements de test vérifiés afin que les mises à jour se révèlent sûres et bénéfiques avant le déploiement. Le rapport fourni ne vérifie pas de manière indépendante la feuille de route, les affirmations de l'entreprise concernée ou l'efficacité des garanties proposées.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Que regarder ensuite
Le document ne donne aucun calendrier pour parvenir à une véritable auto-amélioration récursive. Il n’y a pas d’accès aux produits, de prix ou de disponibilité générale documentés. Les principales inconnues incluent si les étapes proposées peuvent fonctionner de manière fiable en dehors du génie logiciel, la quantité de calcul qu'elles nécessitent et si les protections peuvent détecter les mises à jour nuisibles ou inefficaces.
Les chercheurs ne fournissent aucun calendrier pour parvenir à un véritable RSI, et le South China Morning Post ne fait pas état d’un système fonctionnel ayant atteint la phase finale. L'accès à la recherche décrite n'est pas spécifié et aucun prix de produit ou disponibilité générale n'est documenté.
Les progrès peuvent différer considérablement selon le domaine. Les auteurs considéreraient le génie logiciel comme une voie plus claire, tandis que la robotique et la découverte scientifique présentent des défis techniques plus difficiles. La disponibilité des calculs est une autre limitation : le rapport cite un expert affirmant que les entreprises américaines ont plusieurs mois d'avance et disposent d'un plus grand déploiement de calcul, tandis que les chercheurs chinois continuent d'optimiser sous des contraintes matérielles.
Les futurs rapports devraient établir si les systèmes d'auto-formation revendiqués produisent des améliorations persistantes et reproductibles, comment les mises à jour sont évaluées et si l'approbation humaine reste requise. Aucun résultat de test indépendant n’est fourni dans la source fournie.