PANDUAN Teknis
Penalaran Pohon Pikiran
Tree-of-Thoughts memungkinkan model mengeksplorasi banyak jalur penalaran secara paralel, seperti cabang pohon, alih-alih hanya terpaku pada satu jalur pemikiran.
Dengarkan panduan iniDiceritakan oleh AI · ~2 min
Di halaman ini2 menit membaca
Ikhtisar
It can look ahead, evaluate partial solutions, and backtrack from dead ends.
Menyelam Lebih Dalam
Diperkenalkan oleh Yao dkk. pada tahun 2023, Tree-of-Thoughts (ToT) menggeneralisasi rangkaian pemikiran yang mendorong. Jika rantai pemikiran menghasilkan satu rangkaian langkah penalaran linier, ToT menyusun masalah sebagai sebuah pohon: setiap simpul merupakan solusi parsial (sebuah 'pemikiran'), dan model tersebut menghasilkan beberapa kandidat pemikiran berikutnya dari setiap simpul. Langkah evaluasi terpisah menilai seberapa menjanjikan setiap cabang, dan algoritma pencarian seperti pencarian yang mengutamakan luas atau yang lebih mendalam memutuskan cabang mana yang akan diperluas dan mana yang akan dipangkas. Hal ini memungkinkan model untuk mengeksplorasi dengan sengaja, melihat ke depan beberapa langkah, dan mundur ketika jalur terlihat tidak menjanjikan. ToT menonjol dalam tugas-tugas yang mengalahkan penalaran satu jalur yang serakah, yang paling terkenal adalah Game 24, di mana GPT-4 dengan rangkaian pemikiran memecahkan sekitar 4% teka-teki tetapi ToT mendorong keberhasilan menjadi sekitar 74%.
Implementasi Dunia Nyata
Menyelesaikan Game 24 dengan mencabangkan dua angka mana yang akan digabungkan terlebih dahulu dan memangkas jalur aritmatika yang tidak dapat mencapai 24.
Menulis kreatif dengan rencana yang koheren, di mana model menyusun beberapa kerangka alur, mengevaluasinya, dan mengembangkannya sekuat tenaga sebelum menulis prosa.
Teka-teki kendala seperti teka-teki silang mini, di mana setiap kata yang diisi adalah sebuah pemikiran dan cabang-cabang yang tidak kompatibel ditinggalkan.
Masalah matematika atau perencanaan multi-langkah di mana model mengeksplorasi langkah-langkah perantara alternatif dan mundur dari langkah-langkah yang melanggar batasan.
Masa Depan Penalaran Pohon Pemikiran
Tree-of-Thoughts memengaruhi cara komputasi waktu inferensi digunakan: alih-alih hanya melakukan satu langkah maju yang besar, sistem semakin mencari jalur penalaran dan memilih yang terbaik. Penelitian di masa depan bertujuan untuk mempelajari kapan percabangan sepadan dengan biaya tokennya yang tinggi, untuk menggunakan fungsi nilai yang terlatih alih-alih evaluasi mandiri berbasis cepat, dan untuk memasukkan penelusuran pohon ke dalam model penalaran sehingga pertimbangannya lebih efisien. Harapkan integrasi yang lebih erat dengan alat dan pemverifikasi sehingga evaluasi cabang bertumpu pada umpan balik nyata daripada dugaan model.
Mempraktikkannya
Mengapa itu penting
- Biaya dan anggaran. Keputusan arsitektur mendorong kinerja dan biaya pengoperasian selama bertahun-tahun.
- Keputusan yang lebih jelas. Pendidikan teknis membantu tim memilih tumpukan yang tepat, bukan hanya yang terbaru.
- Kontrol kualitas. Pilihan teknik yang lebih baik mengurangi insiden keandalan dalam produksi.
Hati-hati
- Mengoptimalkan satu tolok ukur dapat menyembunyikan kelemahan sistem yang lebih luas.
- Biaya infrastruktur dan pemeliharaan sering kali diremehkan.
- Kesenjangan keamanan dan kemampuan observasi dapat tumbuh seiring dengan semakin kompleksnya sistem.
Langkah selanjutnya
- Tentukan target latensi, kualitas, dan biaya sebelum penerapan.
- Tolok ukur dalam kondisi beban dan data yang realistis.
- Pemantauan instrumen untuk kesalahan, penyimpangan, dan dampak pengguna.
- Siapkan jalur rollback dan respons insiden sebelum melakukan penskalaan.
Terus Menjelajah
Buletin gratis
Dapatkan pengarahan AI harian
Tiga cerita AI terverifikasi setiap pagi hari kerja, ditulis dalam bahasa Inggris sederhana. Gratis selamanya, tanpa iklan.
Satu email setiap hari kerja. Berhenti berlangganan dalam satu klik. Kami tidak pernah menjual atau membagikan alamat Anda.
Uji diri Anda sendiri
Take the Tree-of-Thoughts Reasoning quiz
Umpan balik instan untuk setiap jawaban, dan sertifikat yang dapat dibagikan dengan ID yang dapat diverifikasi setelah Anda lulus kursus.
Mendukung pendidikan AI gratis. AI Understanding adalah organisasi nirlaba 501(c)(3) — tanpa iklan, tanpa paywall, selamanya. Berikan sumbangan
Pertanyaan yang sering diajukan
What is Tree-of-Thoughts Reasoning?
Tree-of-Thoughts memungkinkan model mengeksplorasi banyak jalur penalaran secara paralel, seperti cabang pohon, alih-alih hanya terpaku pada satu jalur pemikiran. Ia dapat melihat ke depan, mengevaluasi solusi parsial, dan mundur dari jalan buntu.
Apa perbedaan antara Tree-of-Thoughts dengan rangkaian pemikiran?
Rantai pemikiran menghasilkan satu rangkaian linier, sedangkan Pohon Pikiran bercabang menjadi banyak jalur kandidat yang dapat dievaluasi dan dipangkas.
Dalam Tree-of-Thoughts, apa yang biasanya diwakili oleh satu node?
Setiap node adalah solusi parsial (sebuah pemikiran), dan model tersebut memperluas beberapa kandidat pemikiran berikutnya dari setiap node.
Peran apa yang dimainkan oleh evaluator negara bagian dalam Tree-of-Thoughts?
Evaluator, seringkali merupakan LLM yang sama, menilai atau memberikan suara pada sebagian negara bagian (misalnya, pasti/mungkin/tidak mungkin) sehingga pencarian dapat fokus pada cabang yang menjanjikan.
Pada benchmark Game of 24, ToT secara dramatis mengungguli rantai pemikiran secara kasar dalam lompatan apa?
GPT-4 dengan rantai pemikiran memecahkan sekitar 4% teka-teki Game of 24, sementara Tree-of-Thoughts mencapai sekitar 74%.
Strategi pencarian manakah yang biasa digunakan untuk menavigasi pohon pemikiran?
ToT memasangkan pemikiran dan evaluasi dengan prosedur pencarian klasik seperti BFS, DFS, atau beam search untuk memutuskan cabang mana yang akan diperluas.
Teruslah belajar
Panduan terkait
Panduan lainnya dipilih untuk topik ini