Apa yang berlaku
South China Morning Post melaporkan bahawa penyelidik dari universiti dan syarikat teknologi China menerbitkan kertas kerja yang menerangkan lima peringkat peningkatan diri secara rekursif, daripada melaksanakan peningkatan yang direka oleh manusia kepada memperhalusi secara berterusan kaedah yang digunakan untuk meningkatkan sistem AI. Makalah ini membentangkan ini sebagai hala tuju penyelidikan, bukan produk yang ditunjukkan.
The South China Morning Post melaporkan bahawa penyelidik dari ByteDance, Universiti Tsinghua, Makmal Kepintaran Buatan Shanghai dan institusi lain menerbitkan "The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement." Makalah ini menetapkan lima peringkat progresif untuk peningkatan diri rekursif, atau RSI. Pada mulanya, AI akan melaksanakan prosedur penambahbaikan yang direka oleh jurutera manusia. Ia kemudian akan memilih strategi naik taraf, menentukan maklumat atau pengalaman yang diperlukannya, menyesuaikan diri selepas penggunaan, dan akhirnya memperhalusi kaedah yang digunakan untuk meningkatkan AI itu sendiri.
Laporan itu membezakan RSI daripada chatbot yang membetulkan satu respons. Untuk penambahbaikan untuk melayakkan diri sebagai RSI, perubahan itu perlu berterusan melebihi satu tugas dan diwarisi oleh sistem pengganti. Para penyelidik berpendapat bahawa mengautomasikan bahagian latihan, penilaian dan penalaan halus boleh memendekkan kitaran pembangunan dan mengurangkan kos buruh dan pengkomputeran, tetapi ini adalah tuntutan pengarang dan bukannya menunjukkan hasil secara bebas dalam laporan yang dibekalkan.
Artikel itu juga menerangkan usaha berkaitan oleh syarikat China. Z.ai dilaporkan merancang untuk mengarahkan kira-kira 60 peratus daripada hasil daripada pusingan pengumpulan dana AS$5 bilion ke arah model GLM generasi akan datang dan sistem latihan kendiri. Penyelidik yang dikaitkan dengan MiniMax 2.7 dilaporkan menerangkan kemas kini memori dan eksperimen pembelajaran pengukuhan, manakala DeepSeek dilaporkan membangunkan abah-abah agen untuk tugas berbilang langkah, pelaksanaan kod dan interaksi perisian luaran. Contoh-contoh ini tidak membuktikan bahawa mana-mana syarikat telah mencapai peringkat akhir RSI kertas itu.
Mengapa ia penting
Mengautomasikan bahagian penyelidikan AI boleh menjejaskan seberapa cepat dan murah pembangun melatih model masa depan, sambil mengalihkan lebih kawalan ke atas penambahbaikan model daripada orang kepada sistem AI. Cadangan itu juga menyerlahkan cabaran keselamatan utama: sistem yang mengubah proses penambahbaikan mereka sendiri mungkin memerlukan ujian dan pengawasan yang boleh dipercayai sebelum digunakan. Laporan itu tidak memberikan bukti bahawa peringkat akhir telah dicapai.
Jika boleh dipercayai, sistem yang mengautomasikan bahagian penyelidikan AI boleh menjadi kelebihan daya saing dengan membenarkan pembangun menjalankan lebih banyak percubaan dan menambah baik model dengan kurang tenaga manusia langsung. Itu boleh mempengaruhi kadar dan kos pembangunan model asas, walaupun laporan itu tidak membekalkan ukuran bebas kesan tersebut.
Cadangan itu juga penting untuk keselamatan AI. Para penyelidik mengatakan RSI tulen akan memerlukan perlindungan yang ketat dan persekitaran ujian yang disahkan supaya kemas kini ditunjukkan sebagai selamat dan bermanfaat sebelum digunakan. Laporan yang dibekalkan tidak mengesahkan secara bebas peta jalan, tuntutan syarikat berkaitan, atau keberkesanan sebarang perlindungan yang dicadangkan.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Apa yang perlu ditonton seterusnya
Kertas itu tidak memberikan jadual waktu untuk mencapai peningkatan diri rekursif yang tulen. Tiada akses produk yang didokumenkan, harga atau ketersediaan umum. Perkara utama yang tidak diketahui termasuk sama ada peringkat yang dicadangkan boleh berfungsi dengan pasti di luar kejuruteraan perisian, jumlah pengiraan yang diperlukan dan sama ada perlindungan boleh mengesan kemas kini yang berbahaya atau tidak berkesan.
Para penyelidik tidak menyediakan jadual waktu untuk mencapai RSI tulen, dan South China Morning Post tidak melaporkan sistem kerja yang telah mencapai peringkat akhir. Akses kepada penyelidikan yang diterangkan tidak dinyatakan, dan tiada harga produk atau ketersediaan umum didokumenkan.
Kemajuan mungkin berbeza dengan ketara mengikut bidang. Penulis dilaporkan melihat kejuruteraan perisian sebagai laluan yang lebih jelas, manakala robotik dan penemuan saintifik memberikan cabaran teknikal yang lebih sukar. Ketersediaan pengiraan adalah satu lagi had: laporan itu memetik seorang pakar yang mengatakan syarikat AS kekal beberapa bulan ke hadapan dan mempunyai pengiraan penggunaan yang lebih besar, manakala penyelidik China terus mengoptimumkan di bawah kekangan perkakasan.
Pelaporan masa hadapan harus menentukan sama ada sistem latihan kendiri yang dituntut menghasilkan peningkatan yang berterusan, boleh dihasilkan semula, cara kemas kini dinilai dan sama ada kelulusan manusia masih diperlukan. Tiada keputusan ujian bebas disediakan dalam sumber yang dibekalkan.