Muhasabah Diri dalam Gelung Agen
Refleksi kendiri membolehkan ejen AI mengkritik output dan tindakannya sendiri pada pertengahan tugas, kemudian menyemak semula berdasarkan kritikan tersebut.
Gambaran keseluruhan
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
Menyelam dalam
Dalam gelung ejen, model bahasa mengambil tindakan (alat panggilan, menulis kod, menjawab), memerhati keputusan dan memutuskan perkara yang perlu dilakukan seterusnya. Refleksi kendiri menambah langkah yang disengajakan di mana model menilai kerja terbarunya sebelum meneruskan. Rangka kerja seperti Reflexion (2023) membuat ini konkrit: selepas percubaan yang gagal, ejen menulis kritikan lisan pendek ('Saya terlupa untuk mengendalikan kes senarai kosong') dan menyimpannya dalam ingatan, jadi percubaan seterusnya dikondisikan pada pelajaran itu. Perhalusi Kendiri menggunakan model yang sama untuk menjana maklum balas dan kemudian menulis semula jawapannya secara berulang. Refleksi boleh datang daripada membandingkan output dengan matlamat, menyemak mesej ralat atau menjalankan ujian. Hasilnya ialah kebolehpercayaan yang lebih tinggi pada tugasan berbilang langkah seperti pengekodan, navigasi web dan matematik, di mana satu pas sering gagal tetapi gelung kritikan dan cuba semula berjaya.
Wawasan Teknikal
Refleksi biasanya dilaksanakan sebagai gesaan tambahan: model diminta untuk bertindak sebagai pengkritik terhadap transkrip tindakannya sendiri, menghasilkan maklum balas bahasa semula jadi yang kemudiannya dilampirkan pada konteks untuk percubaan seterusnya. Refleksi menyimpan kritikan ini dalam penimbal memori episodik merentas percubaan dan bukannya pemberat penalaan halus, jadi pembelajaran berlaku sepenuhnya dalam konteks. Pantulan pemacu isyarat boleh bersifat luaran (lulus/gagal ujian, ralat alat) atau dijana sendiri, dan isyarat luaran cenderung jauh lebih dipercayai.
Kesan Strategik
Kos dan bajet
Keputusan seni bina memacu prestasi dan kos operasi selama bertahun-tahun.
Keputusan yang lebih jelas
Pendidikan teknikal membantu pasukan memilih timbunan yang betul, bukan hanya yang terbaharu.
Kawalan kualiti
Pilihan kejuruteraan yang lebih baik mengurangkan insiden kebolehpercayaan dalam pengeluaran.
Masa Depan Muhasabah Diri dalam Gelung Agen
Jangkakan refleksi untuk menjadi ejen primitif terbina dalam dan bukannya helah yang menggesa, dengan model yang dilatih untuk mengetahui bila refleksi bernilai token tambahan dan apabila ia hanya membakar pengiraan. Model pengesah dan maklum balas pelaksanaan akan meningkatkan kritikan diri supaya ejen berhenti berhalusinasi bahawa jawapan yang salah adalah betul. Penyelidikan juga menyasarkan mod kegagalan di mana model dengan yakin mengesahkan kerja yang buruk, menolak ke arah yang ditentukur, refleksi berasaskan bukti dan kriteria pemberhentian yang dipelajari untuk gelung.
Pelaksanaan Dunia Sebenar
Ejen pengekodan menjalankan ujian unit yang gagal, membaca surih balik, menulis refleksi yang mencatat ralat luar demi satu dan menulis semula fungsi pada lelaran gelung seterusnya.
Ejen penyemakan imbas web yang mengklik pautan yang salah menunjukkan pada halaman tempat ia mendarat, mengenali ketidakpadanan dengan matlamatnya dan mengundur untuk mencuba pautan lain.
Pembantu penyelidik mendraf jawapan, mengkritiknya untuk tuntutan yang tidak disokong dan menyemak semula untuk menambah petikan atau melindung nilai kenyataan yang tidak pasti sebelum mengembalikannya.
Ejen penyelesaian matematik menyemak jawapan muktamadnya terhadap kekangan masalah, melihat ketidakpadanan unit dan mengolah semula pengiraan daripada menyerahkan hasil yang cacat.
Risiko & Pengawal
Mengoptimumkan satu penanda aras boleh menyembunyikan kelemahan sistem yang lebih luas.
Kos infrastruktur dan penyelenggaraan sering dipandang remeh.
Jurang keselamatan dan pemerhatian boleh berkembang apabila sistem menjadi lebih kompleks.
Hala Tuju Pelaksanaan
Tentukan sasaran kependaman, kualiti dan kos sebelum pelaksanaan.
Penanda aras di bawah beban realistik dan keadaan data.
Pemantauan instrumen untuk ralat, drift dan kesan pengguna.
Sediakan laluan balik dan tindak balas insiden sebelum penskalaan.
Teruskan Meneroka
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-Reflection in Agent Loops quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Panduan seterusnya
Refleksi dan Agen Pembetulan Diri
Soalan lazim
What is Self-Reflection in Agent Loops?
Refleksi kendiri membolehkan ejen AI mengkritik output dan tindakannya sendiri pada pertengahan tugas, kemudian menyemak semula berdasarkan kritikan tersebut. Ia menukar penebak satu pukulan kepada sistem yang menangkap dan membetulkan kesilapannya sendiri.
Apakah yang ditambahkan oleh refleksi kendiri pada gelung ejen standard?
Refleksi kendiri memasukkan langkah penilaian di mana ejen mengkritik tindakan atau output terbarunya dan menggunakan kritikan itu untuk membimbing langkah seterusnya.
Dalam rangka kerja Refleksi, di manakah kritikan kendiri model disimpan?
Refleksi menyimpan kritikan diri secara lisan dalam penimbal ingatan episodik dan menyuapkannya ke dalam konteks pada percubaan kemudian, jadi pembelajaran adalah dalam konteks dan bukannya melalui kemas kini berat.
Isyarat maklum balas yang manakah untuk refleksi yang paling boleh dipercayai?
Isyarat luaran yang dibumikan seperti ujian yang gagal atau ralat masa jalan memberikan maklum balas yang konkrit dan boleh dipercayai, manakala kritikan yang dijana sendiri boleh menjadi salah.
Apakah mod kegagalan muhasabah diri yang diketahui?
Tanpa maklum balas berasaskan asas, model kadangkala menyemak kerja yang cacat dan secara salah membuat kesimpulan bahawa ia baik, jadi pengesahan luaran adalah penting.
Bagaimanakah pendekatan Perhalusi Kendiri biasanya menjana maklum balas?
Self-Refine mempunyai model tunggal menghasilkan maklum balas pada drafnya dan kemudian menyemak semula output secara berulang menggunakan maklum balas tersebut.