Apa yang terjadi
South China Morning Post melaporkan bahwa para peneliti dari universitas dan perusahaan teknologi Tiongkok menerbitkan sebuah makalah yang menjelaskan lima tahap perbaikan diri secara rekursif, mulai dari melaksanakan peningkatan yang dirancang oleh manusia hingga secara terus-menerus menyempurnakan metode yang digunakan untuk meningkatkan sistem AI. Makalah ini menyajikan hal ini sebagai arah penelitian, bukan produk yang didemonstrasikan.
South China Morning Post melaporkan bahwa para peneliti dari ByteDance, Universitas Tsinghua, Laboratorium Kecerdasan Buatan Shanghai, dan lembaga lainnya menerbitkan “AI Terakhir yang Dibangun oleh Manusia: Menuju Peningkatan Diri Rekursif yang Asli.” Makalah ini menetapkan lima tahap progresif untuk perbaikan diri rekursif, atau RSI. Pada awalnya, AI akan menjalankan prosedur peningkatan yang dirancang oleh insinyur manusia. Mereka kemudian akan memilih strategi peningkatan, menentukan informasi atau pengalaman apa yang dibutuhkan, beradaptasi setelah penerapan, dan pada akhirnya menyempurnakan metode yang digunakan untuk meningkatkan AI itu sendiri.
Laporan tersebut membedakan RSI dari chatbot yang mengoreksi satu respons. Agar suatu perbaikan memenuhi syarat sebagai RSI, perubahan tersebut harus bertahan lebih dari satu tugas dan diwarisi oleh sistem penerus. Para peneliti berpendapat bahwa mengotomatisasi bagian-bagian pelatihan, evaluasi, dan penyesuaian dapat memperpendek siklus pengembangan dan mengurangi biaya tenaga kerja dan komputasi, namun hal ini hanya merupakan klaim penulis dan bukan hasil yang ditunjukkan secara independen dalam laporan yang disediakan.
Artikel tersebut juga menjelaskan upaya terkait yang dilakukan perusahaan Tiongkok. Z.ai dilaporkan berencana untuk mengarahkan sekitar 60 persen dari hasil penggalangan dana sebesar US$5 miliar untuk model GLM generasi berikutnya dan sistem pelatihan mandiri. Para peneliti yang terkait dengan MiniMax 2.7 dilaporkan menjelaskan pembaruan memori dan eksperimen pembelajaran penguatan, sementara DeepSeek dilaporkan mengembangkan pemanfaatan agen untuk tugas multi-langkah, eksekusi kode, dan interaksi perangkat lunak eksternal. Contoh-contoh ini tidak membuktikan bahwa perusahaan mana pun telah mencapai tahap akhir RSI dalam makalah ini.
Mengapa itu penting
Mengotomatiskan bagian-bagian penelitian AI dapat memengaruhi seberapa cepat dan murah pengembang melatih model masa depan, sekaligus mengalihkan lebih banyak kendali atas peningkatan model dari manusia ke sistem AI. Proposal ini juga menyoroti tantangan keselamatan utama: sistem yang mengubah proses perbaikannya mungkin memerlukan pengujian dan pengawasan yang andal sebelum diterapkan. Laporan tersebut tidak memberikan bukti bahwa tahap akhir telah tercapai.
Jika dapat diandalkan, sistem yang mengotomatiskan bagian-bagian penelitian AI dapat menjadi keunggulan kompetitif dengan memungkinkan pengembang menjalankan lebih banyak eksperimen dan meningkatkan model dengan lebih sedikit tenaga manusia langsung. Hal ini dapat mempengaruhi kecepatan dan biaya pengembangan model pondasi, meskipun laporan ini tidak memberikan pengukuran independen mengenai dampak tersebut.
Proposal ini juga penting bagi keamanan AI. Para peneliti mengatakan RSI asli memerlukan perlindungan yang ketat dan lingkungan pengujian yang terverifikasi sehingga pembaruan terbukti aman dan bermanfaat sebelum diterapkan. Laporan yang diberikan tidak memverifikasi secara independen peta jalan, klaim perusahaan terkait, atau efektivitas upaya perlindungan yang diusulkan.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Apa yang harus ditonton selanjutnya
Makalah ini tidak memberikan jadwal untuk mencapai perbaikan diri rekursif yang sejati. Tidak ada akses produk, harga, atau ketersediaan umum yang terdokumentasi. Hal utama yang belum diketahui mencakup apakah tahapan yang diusulkan dapat berfungsi dengan baik di luar rekayasa perangkat lunak, berapa banyak komputasi yang diperlukan, dan apakah perlindungan dapat mendeteksi pembaruan yang berbahaya atau tidak efektif.
Para peneliti tidak memberikan jadwal untuk mencapai RSI asli, dan South China Morning Post tidak melaporkan sistem kerja yang telah mencapai tahap akhir. Akses terhadap penelitian yang dijelaskan tidak ditentukan, dan tidak ada harga produk atau ketersediaan umum yang didokumentasikan.
Kemajuan mungkin berbeda secara substansial tergantung bidangnya. Para penulis dilaporkan melihat rekayasa perangkat lunak sebagai jalur yang lebih jelas, sementara robotika dan penemuan ilmiah menghadirkan tantangan teknis yang lebih sulit. Ketersediaan komputasi juga merupakan batasan lainnya: laporan tersebut mengutip seorang pakar yang mengatakan bahwa perusahaan-perusahaan AS masih memiliki komputasi penerapan yang lebih maju dalam beberapa bulan ke depan, sementara para peneliti Tiongkok terus melakukan optimalisasi di bawah kendala perangkat keras.
Pelaporan di masa depan harus menentukan apakah sistem pelatihan mandiri yang diklaim menghasilkan perbaikan yang terus-menerus dan dapat direproduksi, bagaimana pembaruan dievaluasi, dan apakah persetujuan manusia masih diperlukan. Tidak ada hasil tes independen yang diberikan dalam sumber yang disediakan.