Mi történt
A South China Morning Post arról számol be, hogy kínai egyetemek és technológiai cégek kutatói publikáltak egy tanulmányt, amelyben a rekurzív önfejlesztés öt szakaszát írják le, az ember által tervezett frissítések végrehajtásától a mesterséges intelligencia rendszerek tökéletesítésére használt módszerek kitartó finomításáig. A cikk ezt kutatási irányként mutatja be, nem bemutatott termékként.
A South China Morning Post arról számol be, hogy a ByteDance, a Tsinghua Egyetem, a Sanghaji Mesterséges Intelligencia Laboratórium és más intézmények kutatói publikálták „Az utolsó mesterséges intelligencia, amelyet emberek építettek: a valódi rekurzív önfejlesztés felé”. A tanulmány öt progresszív szakaszt határoz meg a rekurzív önfejlesztés vagy RSI számára. Eleinte egy mesterséges intelligencia emberi mérnökök által tervezett fejlesztési eljárásokat hajtana végre. Ezután kiválasztja a frissítési stratégiákat, meghatározza, milyen információkra vagy tapasztalatokra van szüksége, alkalmazkodik a telepítés után, és végső soron finomítja az AI fejlesztésére használt módszereket.
A jelentés megkülönbözteti az RSI-t az egyetlen választ kijavító chatbottól. Ahhoz, hogy a fejlesztés RSI-nek minősüljön, a változtatásnak egy feladaton túl is fenn kell állnia, és az utódrendszereknek örökölniük kell. A kutatók azzal érvelnek, hogy a képzés, az értékelés és a finomhangolás egyes részeinek automatizálása lerövidítheti a fejlesztési ciklusokat, valamint csökkentheti a munkaerő- és számítási költségeket, de ezek inkább a szerzők állításai, mintsem a mellékelt jelentésben szereplő önállóan bizonyított eredmények.
A cikk ismerteti a kínai vállalatok ezzel kapcsolatos erőfeszítéseit is. A Z.ai a hírek szerint egy 5 milliárd dolláros adománygyűjtésből származó bevétel mintegy 60 százalékát a következő generációs GLM modellekre és egy önképző rendszerre fordítja. A MiniMax 2.7-tel kapcsolatban álló kutatók állítólag memóriafrissítéseket és megerősítési tanulási kísérleteket írtak le, míg a DeepSeek egy ügynöki kábelt fejlesztett ki többlépéses feladatokhoz, kódvégrehajtáshoz és külső szoftveres interakcióhoz. Ezek a példák nem igazolják, hogy bármelyik vállalat elérte volna a papír utolsó RSI-stádiumát.
Miért számít
Az AI-kutatás egyes részeinek automatizálása hatással lehet arra, hogy a fejlesztők milyen gyorsan és olcsón képezzék ki a jövőbeli modelleket, miközben a modellfejlesztés feletti irányítást az emberekről az AI-rendszerekre helyezik át. A javaslat egy központi biztonsági kihívásra is rávilágít: a saját fejlesztési folyamataikat megváltoztató rendszerek megbízható tesztelést és felügyeletet igényelhetnek a telepítés előtt. A jelentés nem szolgáltat bizonyítékot arra, hogy a végső szakaszokat elértük.
Ha megbízhatóak, akkor az AI-kutatás egyes részeit automatizáló rendszerek versenyelőnyt jelenthetnek, mivel lehetővé teszik a fejlesztők számára, hogy több kísérletet hajtsanak végre, és kevesebb közvetlen emberi munkával javítsák a modelleket. Ez befolyásolhatja az alapmodell kidolgozásának ütemét és költségeit, bár a jelentés nem ad független méréseket ezekről a hatásokról.
A javaslat a mesterséges intelligencia biztonsága szempontjából is következményekkel jár. A kutatók szerint az eredeti RSI szigorú biztosítékokat és ellenőrzött tesztelési környezetet igényel, hogy a frissítések biztonságosnak és hasznosnak bizonyuljanak a telepítés előtt. A benyújtott jelentés nem ellenőrzi függetlenül az ütemtervet, a kapcsolódó vállalati állításokat vagy a javasolt biztosítékok hatékonyságát.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Mit nézzünk ezután
A dolgozat nem ad menetrendet a valódi rekurzív önfejlesztés eléréséhez. Nincs dokumentált termékhozzáférés, árazás vagy általános elérhetőség. A kulcsfontosságú ismeretlenek közé tartozik, hogy a javasolt szakaszok megbízhatóan működhetnek-e a szoftverfejlesztésen kívül, mennyi számítást igényelnek, és hogy a biztosítékok képesek-e észlelni a káros vagy nem hatékony frissítéseket.
A kutatók nem közölnek menetrendet a valódi RSI elérésére, és a South China Morning Post nem számol be olyan működő rendszerről, amely elérte volna a végső szakaszt. A leírt kutatáshoz való hozzáférés nincs meghatározva, és nincs dokumentálva a termék ára vagy általános elérhetősége.
Az előrehaladás területenként jelentősen eltérhet. A szerzők állítólag a szoftverfejlesztést világosabb útnak tekintik, míg a robotika és a tudományos felfedezések nehezebb technikai kihívásokat jelentenek. A számítások rendelkezésre állása egy másik korlát: a jelentés idéz egy szakértőt, aki szerint az amerikai vállalatok továbbra is több hónappal előrébb járnak, és nagyobb telepítési számítással rendelkeznek, miközben a kínai kutatók hardveres korlátok mellett folytatják az optimalizálást.
A jövőbeni jelentéseknek meg kell határozniuk, hogy az állítólagos önképző rendszerek tartós, reprodukálható fejlesztéseket eredményeznek-e, hogyan értékelik a frissítéseket, és hogy továbbra is szükség van-e emberi jóváhagyásra. A mellékelt forrás nem tartalmaz független vizsgálati eredményeket.