Какво стана
South China Morning Post съобщава, че изследователи от китайски университети и технологични компании са публикували документ, описващ пет етапа на рекурсивно самоусъвършенстване, от изпълнение на надстройки, проектирани от хора, до постоянно усъвършенстване на методите, използвани за подобряване на AI системите. Документът представя това като изследователска посока, а не демонстриран продукт.
South China Morning Post съобщава, че изследователи от ByteDance, университета Цинхуа, Шанхайската лаборатория за изкуствен интелект и други институции публикуваха „Последният изкуствен интелект, създаден от хората: към истинско рекурсивно самоусъвършенстване“. Документът определя пет прогресивни етапа за рекурсивно самоусъвършенстване или RSI. Първоначално AI ще изпълнява процедури за подобряване, проектирани от човешки инженери. След това ще избере стратегии за надграждане, ще определи от каква информация или опит се нуждае, ще се адаптира след внедряването и в крайна сметка ще прецизира методите, използвани за подобряване на самия AI.
Докладът разграничава RSI от чатбот, коригиращ един отговор. За да може едно подобрение да се квалифицира като RSI, промяната трябва да продължи след една задача и да бъде наследена от последващи системи. Изследователите твърдят, че автоматизирането на части от обучението, оценката и фината настройка може да съкрати циклите на разработка и да намали разходите за труд и изчисления, но това са по-скоро твърдения на авторите, отколкото независимо демонстрирани резултати в предоставения доклад.
Статията също така описва свързаните усилия на китайски компании. Съобщава се, че Z.ai планира да насочи около 60 процента от приходите от кръг за набиране на средства от 5 милиарда щатски долара към следващо поколение модели GLM и система за самообучение. Съобщава се, че изследователи, свързани с MiniMax 2.7, са описали актуализации на паметта и експерименти с подсилващо обучение, докато DeepSeek е разработил агентно сбруя за многоетапни задачи, изпълнение на код и взаимодействие с външен софтуер. Тези примери не установяват, че някоя компания е постигнала последния етап на RSI на хартията.
Детайли за източника: scmp.com ↗
Защо има значение
Автоматизирането на части от изследванията на AI може да повлияе на това колко бързо и евтино разработчиците обучават бъдещи модели, като същевременно прехвърля повече контрол върху подобряването на модела от хората към системите с AI. Предложението също така подчертава основното предизвикателство за безопасността: системите, които променят собствените си процеси за подобряване, може да изискват надеждно тестване и надзор преди внедряване. Докладът не предоставя доказателства, че последните етапи са постигнати.
Ако са надеждни, системите, които автоматизират части от изследванията на AI, биха могли да се превърнат в конкурентно предимство, като позволят на разработчиците да провеждат повече експерименти и да подобряват модели с по-малко директен човешки труд. Това може да повлияе на темпото и цената на разработването на модел на основата, въпреки че докладът не предоставя независими измервания на тези ефекти.
Предложението също е от значение за безопасността на ИИ. Изследователите казват, че истинският RSI ще изисква строги предпазни мерки и проверени среди за тестване, така че актуализациите да се показват като безопасни и полезни преди внедряването. Предоставеният доклад не проверява независимо пътната карта, свързаните твърдения на компанията или ефективността на предложените предпазни мерки.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Какво да гледате след това
Документът не дава график за постигане на истинско рекурсивно самоусъвършенстване. Няма документиран достъп до продукта, цена или обща наличност. Ключовите неизвестни включват дали предложените етапи могат да работят надеждно извън софтуерното инженерство, колко изчисления изискват и дали предпазните мерки могат да открият вредни или неефективни актуализации.
Изследователите не предоставят график за постигане на истински RSI, а South China Morning Post не съобщава за работеща система, която е достигнала последния етап. Достъпът до описаното изследване не е посочен и не е документирана цена на продукта или обща наличност.
Напредъкът може да се различава значително според полето. Съобщава се, че авторите виждат софтуерното инженерство като по-ясен път, докато роботиката и научните открития представляват по-трудни технически предизвикателства. Наличността на изчисленията е друго ограничение: докладът цитира експерт, който казва, че американските компании остават с няколко месеца напред и имат по-големи изчисления за внедряване, докато китайските изследователи продължават да оптимизират при хардуерни ограничения.
Бъдещите доклади трябва да установят дали заявените системи за самообучение произвеждат постоянни, възпроизводими подобрения, как се оценяват актуализациите и дали все още е необходимо одобрението на човека. В предоставения източник не са предоставени резултати от независими тестове.