การใช้เหตุผลแบบต้นไม้แห่งความคิด
ต้นไม้แห่งความคิดช่วยให้แบบจำลองสำรวจเส้นทางการใช้เหตุผลหลายเส้นทางไปพร้อมๆ กัน เช่น กิ่งก้านของต้นไม้ แทนที่จะมุ่งมั่นกับแนวความคิดเส้นเดียว
ภาพรวม
It can look ahead, evaluate partial solutions, and backtrack from dead ends.
เจาะลึก
แนะนำโดยเหยาและคณะ ในปี 2023 Tree-of-Thoughts (ToT) จะสรุปการกระตุ้นแบบลูกโซ่แห่งความคิด เมื่อห่วงโซ่แห่งความคิดสร้างลำดับเชิงเส้นตรงของขั้นตอนการให้เหตุผล ToT จะจัดโครงสร้างปัญหาเป็นแผนผัง: แต่ละโหนดเป็นวิธีแก้ปัญหาบางส่วน ("ความคิด") และแบบจำลองจะสร้างความคิดถัดไปที่เป็นตัวเลือกหลายรายการจากแต่ละโหนด ขั้นตอนการประเมินที่แยกออกมาจะให้คะแนนว่าแต่ละสาขามีแนวโน้มที่ดีเพียงใด และอัลกอริธึมการค้นหา เช่น การค้นหาแบบกว้างก่อนหรือลึกก่อนจะตัดสินใจว่าจะขยายสาขาใดและควรตัดสาขาใด ซึ่งช่วยให้โมเดลจงใจสำรวจ มองไปข้างหน้า 2-3 ก้าว และย้อนรอยเมื่อเส้นทางดูไม่มีแนวโน้มดี ToT ฉายแววภารกิจที่เอาชนะการใช้เหตุผลแบบเส้นทางเดียวอันละโมบ โดยที่โด่งดังที่สุดคือเกม 24 โดยที่ GPT-4 ที่มีห่วงโซ่แห่งความคิดสามารถไขปริศนาได้ประมาณ 4% แต่ ToT ผลักดันความสำเร็จเป็นประมาณ 74%
ข้อมูลเชิงลึกทางเทคนิค
ToT มีสามส่วน: เครื่องกำเนิดความคิดที่เสนอขั้นตอนต่อไปของผู้สมัคร ผู้ประเมินของรัฐ (มักจะเป็น LLM เดียวกันที่ได้รับแจ้งให้ให้คะแนนหรือลงคะแนนในวิธีแก้ปัญหาบางส่วนว่า 'แน่นอน / อาจจะ / เป็นไปไม่ได้') และขั้นตอนการค้นหา (BFS, DFS หรือการค้นหาแบบลำแสง) ที่นำทางแผนผัง เนื่องจากโมเดลประเมินสถานะบางส่วนและตัดกิ่งที่อ่อนแอ โมเดลจึงจัดสรรการประมวลผลไปยังขอบเขตที่เป็นไปได้ของพื้นที่โซลูชัน การแลกเปลี่ยนการอนุมานเพิ่มเติมจำเป็นต้องมีความแม่นยำที่สูงขึ้นอย่างมากในปัญหาที่ยาก
ผลกระทบเชิงกลยุทธ์
ต้นทุนและงบประมาณ
การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
การตัดสินใจที่ชัดเจนยิ่งขึ้น
การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
การควบคุมคุณภาพ
ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
อนาคตของการให้เหตุผลแบบต้นไม้แห่งความคิด
แนวคิดแบบต้นไม้มีอิทธิพลต่อวิธีการใช้เวลาในการอนุมาน: แทนที่จะส่งผ่านครั้งใหญ่เพียงครั้งเดียว ระบบจะค้นหาเส้นทางการใช้เหตุผลและเลือกสิ่งที่ดีที่สุดมากขึ้นเรื่อยๆ งานในอนาคตมีจุดมุ่งหมายเพื่อเรียนรู้ว่าเมื่อใดที่การแยกสาขามีค่าใช้จ่ายโทเค็นสูง เพื่อใช้ฟังก์ชันค่าที่ได้รับการฝึกอบรมแทนการประเมินตนเองโดยทันที และพับการค้นหาแบบต้นไม้เป็นรูปแบบการให้เหตุผลเพื่อให้การพิจารณามีประสิทธิภาพมากขึ้น คาดหวังการผสานรวมกับเครื่องมือและผู้ตรวจสอบที่เข้มงวดมากขึ้น ดังนั้นการประเมินสาขาจะขึ้นอยู่กับผลตอบรับจริงมากกว่าการคาดเดาของแบบจำลอง
การใช้งานจริงในโลกแห่งความเป็นจริง
แก้เกม 24 โดยการแยกตัวเลขสองตัวมารวมกันก่อน และตัดเส้นทางเลขคณิตที่ไม่สามารถเข้าถึง 24 ได้
การเขียนเชิงสร้างสรรค์ที่มีแผนที่สอดคล้องกัน โดยที่แบบจำลองจะร่างโครงร่างโครงเรื่องต่างๆ ประเมิน และขยายส่วนที่แข็งแกร่งที่สุดก่อนที่จะเขียนร้อยแก้ว
ปริศนาที่มีข้อจำกัด เช่น ปริศนาอักษรไขว้ขนาดเล็ก โดยแต่ละคำที่เติมไว้เป็นเพียงความคิด และกิ่งก้านที่เข้ากันไม่ได้จะถูกละทิ้ง
ปัญหาทางคณิตศาสตร์หรือการวางแผนแบบหลายขั้นตอนที่แบบจำลองสำรวจขั้นตอนกลางทางเลือกและการย้อนรอยจากขั้นตอนที่ฝ่าฝืนข้อจำกัด
ความเสี่ยงและรั้ว
การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
แผนงานการดำเนินงาน
กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree-of-Thoughts Reasoning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
ต้นไม้แห่งความคิด
คำถามที่พบบ่อย
What is Tree-of-Thoughts Reasoning?
ต้นไม้แห่งความคิดช่วยให้แบบจำลองสำรวจเส้นทางการใช้เหตุผลหลายเส้นทางไปพร้อมๆ กัน เช่น กิ่งก้านของต้นไม้ แทนที่จะมุ่งมั่นกับแนวความคิดเส้นเดียว สามารถมองไปข้างหน้า ประเมินวิธีแก้ปัญหาบางส่วน และย้อนรอยจากทางตันได้
Tree-of-Thoughts แตกต่างจากการกระตุ้นเตือนแบบลูกโซ่อย่างไร
สายโซ่แห่งความคิดสร้างลำดับเชิงเส้นเดี่ยว ในขณะที่ต้นไม้แห่งความคิดแยกออกเป็นหลายเส้นทางที่สามารถประเมินและตัดแต่งได้
ใน Tree-of-Thoughts โดยทั่วไปแล้วโหนดเดียวจะแสดงถึงอะไร
แต่ละโหนดเป็นวิธีแก้ปัญหาบางส่วน (ความคิด) และแบบจำลองจะขยายความคิดถัดไปของผู้สมัครหลายรายจากแต่ละโหนด
ผู้ประเมินของรัฐมีบทบาทอย่างไรใน Tree-of-Thoughts?
ผู้ประเมิน ซึ่งมักจะเป็น LLM คนเดียวกัน จะให้คะแนนหรือลงคะแนนเสียงในรัฐบางส่วน (เช่น แน่นอน/อาจจะ/เป็นไปไม่ได้) เพื่อให้การค้นหามุ่งเน้นไปที่สาขาที่มีแนวโน้มดี
ในการวัดประสิทธิภาพ Game of 24 ToT ทำได้ดีกว่าห่วงโซ่ความคิดอย่างมากด้วยการก้าวกระโดดระดับใด
GPT-4 ที่มีห่วงโซ่แห่งความคิดแก้ไขได้ประมาณ 4% ของเกมปริศนา 24 ชิ้น ในขณะที่ Tree-of-Thoughts สูงถึงประมาณ 74%
กลยุทธ์การค้นหาใดที่มักใช้เพื่อนำทางแผนผังความคิด
ToT จับคู่การสร้างความคิดและการประเมินผลกับขั้นตอนการค้นหาแบบคลาสสิก เช่น BFS, DFS หรือการค้นหาแบบลำแสงเพื่อตัดสินใจว่าจะขยายสาขาใด