SeterusnyaPanduan seterusnya
Refleksi dan Agen Pembetulan Diri
Aplikasi
PANDUAN Teknikal
Muhasabah Diri dalam Gelung Agen
Refleksi kendiri membolehkan ejen AI mengkritik output dan tindakannya sendiri pada pertengahan tugas, kemudian menyemak semula berdasarkan kritikan tersebut.
Dengar panduan iniAI-diceritakan · ~2 min
Pada halaman ini2 min dibaca
Gambaran keseluruhan
Ia menukar penebak satu pukulan kepada sistem yang menangkap dan membetulkan kesilapannya sendiri.
Menyelam dalam
Dalam gelung ejen, model bahasa mengambil tindakan (alat panggilan, menulis kod, menjawab), memerhati keputusan dan memutuskan perkara yang perlu dilakukan seterusnya. Refleksi kendiri menambah langkah yang disengajakan di mana model menilai kerja terbarunya sebelum meneruskan. Rangka kerja seperti Reflexion (2023) membuat ini konkrit: selepas percubaan yang gagal, ejen menulis kritikan lisan pendek ('Saya terlupa untuk mengendalikan kes senarai kosong') dan menyimpannya dalam ingatan, jadi percubaan seterusnya dikondisikan pada pelajaran itu. Perhalusi Kendiri menggunakan model yang sama untuk menjana maklum balas dan kemudian menulis semula jawapannya secara berulang. Refleksi boleh datang daripada membandingkan output dengan matlamat, menyemak mesej ralat atau menjalankan ujian. Hasilnya ialah kebolehpercayaan yang lebih tinggi pada tugasan berbilang langkah seperti pengekodan, navigasi web dan matematik, di mana satu pas sering gagal tetapi gelung kritikan dan cuba semula berjaya.
Pelaksanaan Dunia Sebenar
Ejen pengekodan menjalankan ujian unit yang gagal, membaca surih balik, menulis refleksi yang mencatat ralat luar demi satu dan menulis semula fungsi pada lelaran gelung seterusnya.
Ejen penyemakan imbas web yang mengklik pautan yang salah menunjukkan pada halaman tempat ia mendarat, mengenali ketidakpadanan dengan matlamatnya dan mengundur untuk mencuba pautan lain.
Pembantu penyelidik mendraf jawapan, mengkritiknya untuk tuntutan yang tidak disokong dan menyemak semula untuk menambah petikan atau melindung nilai kenyataan yang tidak pasti sebelum mengembalikannya.
Ejen penyelesaian matematik menyemak jawapan muktamadnya terhadap kekangan masalah, melihat ketidakpadanan unit dan mengolah semula pengiraan daripada menyerahkan hasil yang cacat.
Masa Depan Muhasabah Diri dalam Gelung Agen
Jangkakan refleksi untuk menjadi ejen primitif terbina dalam dan bukannya helah yang menggesa, dengan model yang dilatih untuk mengetahui bila refleksi bernilai token tambahan dan apabila ia hanya membakar pengiraan. Model pengesah dan maklum balas pelaksanaan akan meningkatkan kritikan diri supaya ejen berhenti berhalusinasi bahawa jawapan yang salah adalah betul. Penyelidikan juga menyasarkan mod kegagalan di mana model dengan yakin mengesahkan kerja yang buruk, menolak ke arah yang ditentukur, refleksi berasaskan bukti dan kriteria pemberhentian yang dipelajari untuk gelung.
Mempraktikkannya
Mengapa ia penting
- Kos dan bajet. Keputusan seni bina memacu prestasi dan kos operasi selama bertahun-tahun.
- Keputusan yang lebih jelas. Pendidikan teknikal membantu pasukan memilih timbunan yang betul, bukan hanya yang terbaharu.
- Kawalan kualiti. Pilihan kejuruteraan yang lebih baik mengurangkan insiden kebolehpercayaan dalam pengeluaran.
Berhati-hati untuk
- Mengoptimumkan satu penanda aras boleh menyembunyikan kelemahan sistem yang lebih luas.
- Kos infrastruktur dan penyelenggaraan sering dipandang remeh.
- Jurang keselamatan dan pemerhatian boleh berkembang apabila sistem menjadi lebih kompleks.
Langkah seterusnya
- Tentukan sasaran kependaman, kualiti dan kos sebelum pelaksanaan.
- Penanda aras di bawah beban realistik dan keadaan data.
- Pemantauan instrumen untuk ralat, drift dan kesan pengguna.
- Sediakan laluan balik dan tindak balas insiden sebelum penskalaan.
Teruskan Meneroka
Newsletter percuma
Dapatkan taklimat AI harian
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Take the Self-Reflection in Agent Loops quiz
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Soalan lazim
Apakah Refleksi Kendiri dalam Gelung Agen?
Refleksi kendiri membolehkan ejen AI mengkritik output dan tindakannya sendiri pada pertengahan tugas, kemudian menyemak semula berdasarkan kritikan tersebut. Ia menukar penebak satu pukulan kepada sistem yang menangkap dan membetulkan kesilapannya sendiri.
Apakah yang ditambahkan oleh refleksi kendiri pada gelung ejen standard?
Refleksi kendiri memasukkan langkah penilaian di mana ejen mengkritik tindakan atau output terbarunya dan menggunakan kritikan itu untuk membimbing langkah seterusnya.
Dalam rangka kerja Refleksi, di manakah kritikan kendiri model disimpan?
Refleksi menyimpan kritikan diri secara lisan dalam penimbal ingatan episodik dan menyuapkannya ke dalam konteks pada percubaan kemudian, jadi pembelajaran adalah dalam konteks dan bukannya melalui kemas kini berat.
Isyarat maklum balas yang manakah untuk refleksi yang paling boleh dipercayai?
Isyarat luaran yang dibumikan seperti ujian yang gagal atau ralat masa jalan memberikan maklum balas yang konkrit dan boleh dipercayai, manakala kritikan yang dijana sendiri boleh menjadi salah.
Apakah mod kegagalan muhasabah diri yang diketahui?
Tanpa maklum balas berasaskan asas, model kadangkala menyemak kerja yang cacat dan secara salah membuat kesimpulan bahawa ia baik, jadi pengesahan luaran adalah penting.
Bagaimanakah pendekatan Perhalusi Kendiri biasanya menjana maklum balas?
Self-Refine mempunyai model tunggal menghasilkan maklum balas pada drafnya dan kemudian menyemak semula output secara berulang menggunakan maklum balas tersebut.
Teruskan belajar
Panduan berkaitan
Lebih banyak panduan dipilih untuk topik ini