ต้นไม้แห่งความคิด
ต้นไม้แห่งความคิด (ToT) เป็นกรอบงานกระตุ้นที่ช่วยให้โมเดลภาษาสำรวจเส้นทางการใช้เหตุผลหลายเส้นทางไปพร้อมๆ กัน เช่น กิ่งก้านของต้นไม้ แทนที่จะมุ่งมั่นกับการคิดแนวเดียว
ภาพรวม
It matters because it dramatically improves performance on problems that require planning, search, or backtracking.
เจาะลึก
การกระตุ้นห่วงโซ่แห่งความคิดแบบมาตรฐานจะนำแบบจำลองผ่านขั้นตอนการให้เหตุผลหนึ่งลำดับตั้งแต่ต้นจนจบ ซึ่งใช้ได้กับงานหลายอย่าง แต่จะล้มเหลวเมื่อความผิดพลาดตั้งแต่เนิ่นๆ ส่งผลเสียต่อคำตอบทั้งหมด ต้นไม้แห่งความคิด เปิดตัวโดยนักวิจัยที่ Princeton และ Google DeepMind ในปี 2023 ปรับกรอบการใช้เหตุผลเป็นการค้นหาต้นไม้ ในแต่ละขั้นตอน แบบจำลองจะสร้าง 'ความคิด' ของผู้สมัครหลายรายการ (ขั้นตอนกลางหรือวิธีแก้ปัญหาบางส่วน) ประเมินว่าแต่ละข้อมีแนวโน้มที่ดีเพียงใด จากนั้นจึงสำรวจสาขาที่ดีที่สุดต่อไป โดยละทิ้งทางตัน ซึ่งช่วยให้โมเดลมองไปข้างหน้า เปรียบเทียบตัวเลือก และย้อนรอยได้ โดยทำตัวเหมือนเป็นนักแก้ปัญหาที่มีเจตนามากกว่าผู้คาดเดาแบบครั้งเดียว ในงานต่างๆ เช่น Game of 24 นั้น ToT ได้เพิ่มอัตราความสำเร็จจากไม่กี่เปอร์เซ็นต์ด้วยห่วงโซ่แห่งความคิดเป็นประมาณ 74 เปอร์เซ็นต์
ข้อมูลเชิงลึกทางเทคนิค
ToT รวมองค์ประกอบ 3 อย่างเข้าด้วยกัน: เครื่องกำเนิดความคิดที่เสนอขั้นตอนถัดไปหลายขั้นตอน ผู้ประเมินของรัฐที่ให้คะแนนหรือโหวตว่าแต่ละเส้นทางมีแนวโน้มที่จะประสบความสำเร็จเพียงใด และอัลกอริธึมการค้นหา ซึ่งโดยทั่วไปคือการค้นหาแบบความกว้างก่อนหรือเชิงลึกก่อน ซึ่งตัดสินใจว่าจะขยายหรือตัดสาขาใด ตัวแบบมักจะทำการประเมินโดยได้รับแจ้งให้ให้คะแนนว่า 'แน่นอน' 'อาจจะ' หรือ 'เป็นไปไม่ได้' สิ่งสำคัญที่สุดคือ นี่เป็นการสรุปคำสั่งของโมเดล ไม่ใช่การฝึกสอนใหม่
ผลกระทบเชิงกลยุทธ์
ความเร็วและขนาด
ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ
เข้าถึงและเข้าถึง
ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร
การตัดสินใจที่ชัดเจนยิ่งขึ้น
ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ
อนาคตของต้นไม้แห่งความคิด
คาดว่าการพิจารณาแบบต้นไม้จะถูกดูดซึมเข้าสู่ระบบเอเจนต์และโมเดล 'การให้เหตุผล' ที่จัดสรรการประมวลผลเพิ่มเติมให้กับปัญหาหนักในเวลาอนุมาน ตัวแปรต่างๆ เช่น กราฟความคิด ช่วยให้เส้นทางสามารถผสานและนำผลลัพธ์ระดับกลางกลับมาใช้ใหม่ได้ และผู้ประเมินที่เรียนรู้อาจแทนที่การให้คะแนนแบบทันทีเพื่อความน่าเชื่อถือ แนวโน้มที่กว้างขึ้นคือการใช้การค้นหาตามเวลาอนุมานเหมือนปุ่มปรับ: ใช้การคำนวณมากขึ้นในการสำรวจสาขาต่างๆ สำหรับคำถามที่มีเดิมพันสูง น้อยลงสำหรับคำถามที่ง่าย ทำให้เส้นแบ่งระหว่างการกระตุ้นเตือนและการวางแผนไม่ชัดเจน
การใช้งานจริงในโลกแห่งความเป็นจริง
แก้ปริศนาเกม 24 โดยที่ตัวเลขสี่ตัวต้องรวมกับเลขคณิตเพื่อให้ได้ 24 โดยการสำรวจและตัดสมการผู้สมัครจำนวนมาก
งานเขียนเชิงสร้างสรรค์โดยที่แบบจำลองร่างทิศทางโครงเรื่องหลายจุด ประเมินการเชื่อมโยงกัน และพัฒนาจุดที่แข็งแกร่งที่สุด
การพิสูจน์ทางคณิตศาสตร์หรือปัญหาคำศัพท์หลายขั้นตอน ซึ่งการย้อนรอยจากขั้นตอนที่บกพร่องเป็นสิ่งสำคัญเพื่อให้ได้คำตอบที่ถูกต้อง
ปริศนาที่มีข้อจำกัด เช่น ปริศนาอักษรไขว้ขนาดเล็ก โดยที่แบบจำลองจะทดสอบการเติมบางส่วนและละทิ้งสาขาที่ละเมิดเบาะแส
ความเสี่ยงและรั้ว
ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ
ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน
ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ
แผนงานการดำเนินงาน
กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว
การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ
รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง
ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree of Thoughts quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
การใช้เหตุผลแบบต้นไม้แห่งความคิด
คำถามที่พบบ่อย
What is Tree of Thoughts?
ต้นไม้แห่งความคิด (ToT) เป็นกรอบงานกระตุ้นที่ช่วยให้โมเดลภาษาสำรวจเส้นทางการใช้เหตุผลหลายเส้นทางไปพร้อมๆ กัน เช่น กิ่งก้านของต้นไม้ แทนที่จะมุ่งมั่นกับการคิดแนวเดียว เป็นเรื่องสำคัญเนื่องจากช่วยปรับปรุงประสิทธิภาพของปัญหาที่ต้องมีการวางแผน ค้นหา หรือการย้อนรอยได้อย่างมาก
Tree of Thoughts แตกต่างโดยพื้นฐานจากการกระตุ้นเตือนแบบลูกโซ่อย่างไร
เมื่อห่วงโซ่แห่งความคิดเดินตามเส้นทางเชิงเส้นเส้นเดียว ต้นไม้แห่งความคิดจะแตกแขนงออกเป็นหลายความคิดของผู้สมัคร ประเมินความคิดเหล่านั้น และย้อนรอยจากทางตัน
องค์ประกอบสามข้อใดที่ประกอบกันเป็นระบบ Tree of Thoughts
ToT จับคู่เครื่องกำเนิดความคิดของผู้สมัคร ผู้ประเมินที่ให้คะแนนสถานะบางส่วน และขั้นตอนการค้นหา (เช่น BFS หรือ DFS) เพื่อตัดสินใจว่าจะขยายสาขาใด
ในการวัดประสิทธิภาพ Game of 24 อะไรคือผลลัพธ์ที่น่าทึ่งของการใช้ Tree of Thoughts
ToT ปรับปรุงอัตราความสำเร็จของเกม 24 เกมได้อย่างมาก เมื่อเทียบกับห่วงโซ่แห่งความคิด ซึ่งแสดงให้เห็นถึงคุณค่าของการค้นหาและการย้อนรอย
โดยทั่วไประบบ Tree of Thoughts จะประเมินวิธีแก้ปัญหาบางส่วนอย่างไร
ตัวแบบมักจะทำหน้าที่เป็นผู้ประเมิน โดยตัดสินว่าเส้นทางบางส่วนแต่ละเส้นทางมีแนวโน้มที่ดีเพียงใด เพื่อการค้นหาสามารถตัดกิ่งที่อ่อนแอออกได้
อะไรคือความจริงเกี่ยวกับการนำ Tree of Thoughts ไปใช้กับโมเดลที่มีอยู่?
ToT orchestrates the model's existing capabilities through prompts and a search loop; มันไม่ได้แก้ไขน้ำหนักพื้นฐาน