SelanjutnyaPanduan berikutnya
Agen Refleksi dan Koreksi Diri
Aplikasi
PANDUAN Teknis
Refleksi Diri di Agent Loops
Refleksi diri memungkinkan agen AI mengkritik keluaran dan tindakannya sendiri di tengah tugas, lalu merevisi berdasarkan kritik tersebut.
Dengarkan panduan iniDiceritakan oleh AI · ~2 min
Di halaman ini2 menit membaca
Ikhtisar
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
Menyelam Lebih Dalam
Dalam loop agen, model bahasa mengambil tindakan (memanggil alat, menulis kode, menjawab), mengamati hasil, dan memutuskan apa yang harus dilakukan selanjutnya. Refleksi diri menambahkan langkah yang disengaja di mana model mengevaluasi pekerjaan terkininya sebelum melanjutkan. Kerangka kerja seperti Reflexion (2023) membuat hal ini menjadi nyata: setelah upaya yang gagal, agen menulis kritik verbal singkat ('Saya lupa menangani kasus daftar kosong') dan menyimpannya dalam memori, sehingga upaya berikutnya dikondisikan pada pelajaran tersebut. Self-Refine menggunakan model yang sama untuk menghasilkan umpan balik dan kemudian menulis ulang jawabannya secara berulang. Refleksi dapat datang dari membandingkan keluaran dengan suatu tujuan, memeriksa pesan kesalahan, atau menjalankan tes. Imbalannya adalah keandalan yang lebih tinggi pada tugas-tugas multi-langkah seperti pengkodean, navigasi web, dan matematika, di mana satu proses sering kali gagal tetapi putaran kritik dan coba lagi berhasil.
Implementasi Dunia Nyata
Agen pengkode menjalankan pengujian unit yang gagal, membaca penelusuran balik, menulis refleksi yang mencatat kesalahan satu per satu, dan menulis ulang fungsi pada iterasi loop berikutnya.
Agen penjelajahan web yang mengeklik tautan yang salah mencerminkan laman yang dibukanya, mengenali ketidaksesuaian dengan tujuannya, dan menelusuri kembali untuk mencoba tautan lain.
Seorang asisten peneliti menyusun sebuah jawaban, mengkritiknya untuk klaim yang tidak didukung, dan merevisinya untuk menambahkan kutipan atau melindungi pernyataan yang tidak pasti sebelum mengembalikannya.
Agen pemecah matematika memeriksa jawaban akhirnya terhadap kendala masalah, memperhatikan ketidakcocokan unit, dan mengerjakan ulang penghitungan daripada mengirimkan hasil yang cacat.
Masa Depan Refleksi Diri di Agent Loops
Harapkan refleksi menjadi agen bawaan yang primitif dan bukan trik yang mendorong, dengan model yang dilatih untuk mengetahui kapan refleksi bernilai token tambahan dan kapan hanya membakar komputasi. Model verifikasi dan umpan balik pelaksanaan akan semakin mendasari kritik diri sehingga agen berhenti berhalusinasi bahwa jawaban yang salah adalah benar. Penelitian juga menargetkan mode kegagalan di mana model dengan percaya diri menegaskan kinerja buruk, mendorong refleksi berbasis bukti yang terkalibrasi, dan kriteria penghentian yang dipelajari untuk loop tersebut.
Mempraktikkannya
Mengapa itu penting
- Biaya dan anggaran. Keputusan arsitektur mendorong kinerja dan biaya pengoperasian selama bertahun-tahun.
- Keputusan yang lebih jelas. Pendidikan teknis membantu tim memilih tumpukan yang tepat, bukan hanya yang terbaru.
- Kontrol kualitas. Pilihan teknik yang lebih baik mengurangi insiden keandalan dalam produksi.
Hati-hati
- Mengoptimalkan satu tolok ukur dapat menyembunyikan kelemahan sistem yang lebih luas.
- Biaya infrastruktur dan pemeliharaan sering kali diremehkan.
- Kesenjangan keamanan dan kemampuan observasi dapat tumbuh seiring dengan semakin kompleksnya sistem.
Langkah selanjutnya
- Tentukan target latensi, kualitas, dan biaya sebelum penerapan.
- Tolok ukur dalam kondisi beban dan data yang realistis.
- Pemantauan instrumen untuk kesalahan, penyimpangan, dan dampak pengguna.
- Siapkan jalur rollback dan respons insiden sebelum melakukan penskalaan.
Terus Menjelajah
Buletin gratis
Dapatkan pengarahan AI harian
Tiga cerita AI terverifikasi setiap pagi hari kerja, ditulis dalam bahasa Inggris sederhana. Gratis selamanya, tanpa iklan.
Satu email setiap hari kerja. Berhenti berlangganan dalam satu klik. Kami tidak pernah menjual atau membagikan alamat Anda.
Uji diri Anda sendiri
Take the Self-Reflection in Agent Loops quiz
Umpan balik instan untuk setiap jawaban, dan sertifikat yang dapat dibagikan dengan ID yang dapat diverifikasi setelah Anda lulus kursus.
Mendukung pendidikan AI gratis. AI Understanding adalah organisasi nirlaba 501(c)(3) — tanpa iklan, tanpa paywall, selamanya. Berikan sumbangan
Pertanyaan yang sering diajukan
What is Self-Reflection in Agent Loops?
Refleksi diri memungkinkan agen AI mengkritik keluaran dan tindakannya sendiri di tengah tugas, lalu merevisi berdasarkan kritik tersebut. Ini mengubah penebak sekali pakai menjadi sistem yang menangkap dan memperbaiki kesalahannya sendiri.
Apa yang ditambahkan oleh refleksi diri ke dalam lingkaran agen standar?
Refleksi diri memasukkan langkah evaluasi di mana agen mengkritik tindakan atau keluaran terkininya dan menggunakan kritik tersebut untuk memandu langkah selanjutnya.
Dalam kerangka Refleksi, di mana kritik diri model disimpan?
Refleksi menyimpan kritik diri secara verbal dalam buffer memori episodik dan memasukkannya ke dalam konteks pada uji coba selanjutnya, sehingga pembelajaran dilakukan dalam konteks dan bukan melalui pembaruan bobot.
Sinyal umpan balik refleksi manakah yang cenderung paling dapat diandalkan?
Sinyal eksternal yang mendasar seperti kegagalan pengujian atau error runtime memberikan umpan balik yang konkrit dan dapat dipercaya, sedangkan kritik yang murni dibuat sendiri bisa saja salah.
Apa modus kegagalan refleksi diri yang diketahui?
Tanpa umpan balik yang mendasar, model terkadang meninjau pekerjaan yang cacat dan secara keliru menyimpulkan bahwa pekerjaan tersebut baik-baik saja, sehingga verifikasi eksternal sangatlah penting.
Bagaimana pendekatan Self-Refine biasanya menghasilkan umpan balik?
Self-Refine memiliki model tunggal yang menghasilkan umpan balik pada drafnya dan kemudian merevisi keluaran secara berulang menggunakan umpan balik tersebut.
Teruslah belajar
Panduan terkait
Panduan lainnya dipilih untuk topik ini