Cây Suy Nghĩ
Cây suy nghĩ (ToT) là một khung nhắc nhở cho phép mô hình ngôn ngữ khám phá song song nhiều đường dẫn lý luận, giống như các nhánh của cây, thay vì cam kết theo một dòng suy nghĩ duy nhất.
Tổng quan
It matters because it dramatically improves performance on problems that require planning, search, or backtracking.
Lặn sâu
Chuỗi suy nghĩ tiêu chuẩn sẽ hướng dẫn mô hình thực hiện một chuỗi các bước suy luận từ đầu đến cuối, hiệu quả cho nhiều nhiệm vụ nhưng không thành công khi một sai lầm ban đầu làm hỏng toàn bộ câu trả lời. Cây suy nghĩ, được giới thiệu bởi các nhà nghiên cứu tại Princeton và Google DeepMind vào năm 2023, điều chỉnh lại lý luận như một cuộc tìm kiếm trên một cái cây. Ở mỗi bước, mô hình tạo ra một số 'suy nghĩ' ứng viên (các bước trung gian hoặc giải pháp từng phần), đánh giá mức độ hứa hẹn của từng bước và sau đó khám phá thêm các nhánh tốt nhất, loại bỏ các ngõ cụt. Điều này cho phép mô hình nhìn về phía trước, so sánh các tùy chọn và quay lại, hoạt động giống như một người giải quyết vấn đề có chủ ý hơn là một người đoán một lần. Trong các nhiệm vụ như Trò chơi 24, ToT đã nâng tỷ lệ thành công từ vài phần trăm với chuỗi suy nghĩ lên khoảng 74%.
Hiểu biết kỹ thuật
ToT kết hợp ba thành phần: một công cụ tạo ý tưởng đề xuất nhiều bước tiếp theo, một công cụ đánh giá trạng thái cho điểm hoặc bỏ phiếu về khả năng thành công của mỗi đường dẫn từng phần và một thuật toán tìm kiếm, thường là tìm kiếm theo chiều rộng hoặc tìm kiếm theo chiều sâu, quyết định nhánh nào sẽ mở rộng hoặc cắt bớt. Bản thân mô hình thường thực hiện việc đánh giá bằng cách được nhắc xếp hạng các trạng thái là 'chắc chắn', 'có thể' hoặc 'không thể'. Điều quan trọng, đây là phần bao bọc xung quanh các lời nhắc của mô hình chứ không phải đào tạo lại.
Tác động chiến lược
Tốc độ và tỷ lệ
Quy trình công việc ngôn ngữ có thể di chuyển nhanh hơn mà không làm mất tính nhất quán.
Truy cập và tiếp cận
Nó mở rộng quyền truy cập vào các ngôn ngữ và phong cách giao tiếp.
Quyết định rõ ràng hơn
Các nhóm có thể dành nhiều thời gian hơn để đánh giá trong khi quá trình tự động hóa xử lý sự lặp lại.
Tương lai của cây tư tưởng
Mong đợi sự cân nhắc theo kiểu cây sẽ được đưa vào các hệ thống tác nhân và các mô hình 'lý luận' phân bổ tính toán bổ sung cho các vấn đề khó tại thời điểm suy luận. Các biến thể như Biểu đồ suy nghĩ cho phép các đường dẫn hợp nhất và sử dụng lại các kết quả trung gian, đồng thời những người đánh giá đã học có thể thay thế việc chấm điểm dựa trên lời nhắc để đảm bảo độ tin cậy. Xu hướng rộng hơn là coi việc tìm kiếm theo thời gian suy luận như một nút xoay có thể điều chỉnh được: dành nhiều điện toán hơn để khám phá các nhánh cho các câu hỏi có độ khó cao, ít hơn cho các câu hỏi dễ, làm mờ đi ranh giới giữa nhắc nhở và lập kế hoạch.
Triển khai trong thế giới thực
Giải câu đố Trò chơi 24, trong đó bốn số phải được kết hợp với số học để đạt đến 24, bằng cách khám phá và rút gọn nhiều phương trình ứng cử viên.
Nhiệm vụ viết sáng tạo trong đó mô hình phác thảo một số hướng cốt truyện, đánh giá tính mạch lạc và phát triển hướng mạnh nhất.
Chứng minh toán học hoặc các bài toán đố có nhiều bước trong đó việc quay lại một bước sai sót là điều cần thiết để đạt được câu trả lời đúng.
Các câu đố hạn chế như trò chơi ô chữ nhỏ, trong đó mô hình kiểm tra việc lấp đầy một phần và loại bỏ các nhánh vi phạm manh mối.
Rủi ro & lan can
Sự thật ảo giác có thể lặng lẽ đi vào báo cáo, luồng hỗ trợ hoặc kết quả nghiên cứu.
Sự nhạy cảm kịp thời có thể tạo ra kết quả không nhất quán đối với các yêu cầu tương tự.
Dữ liệu văn bản nhạy cảm có thể bị lộ nếu khả năng kiểm soát quyền truy cập yếu.
Lộ trình thực hiện
Xác định định dạng đầu ra, âm thanh và tiêu chuẩn chất lượng trước khi triển khai.
Phản hồi mặt đất với các nguồn đáng tin cậy bất cứ khi nào độ chính xác quan trọng.
Duy trì điểm kiểm tra đánh giá của con người đối với các kết quả đầu ra có mức độ rủi ro cao.
Theo dõi các kiểu lỗi và đào tạo lại các lời nhắc hoặc quy trình làm việc thường xuyên.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree of Thoughts quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Lý luận về cây suy nghĩ
Câu hỏi thường gặp
What is Tree of Thoughts?
Cây suy nghĩ (ToT) là một khung nhắc nhở cho phép mô hình ngôn ngữ khám phá song song nhiều đường dẫn lý luận, giống như các nhánh của cây, thay vì cam kết theo một dòng suy nghĩ duy nhất. Điều này quan trọng vì nó cải thiện đáng kể hiệu suất đối với các vấn đề yêu cầu lập kế hoạch, tìm kiếm hoặc quay lui.
Cây Tư duy về cơ bản khác với việc nhắc nhở theo chuỗi suy nghĩ như thế nào?
Khi chuỗi suy nghĩ đi theo một con đường tuyến tính, Cây Tư tưởng sẽ phân nhánh thành nhiều suy nghĩ ứng cử viên, đánh giá chúng và quay lại từ ngõ cụt.
Ba thành phần nào tạo nên hệ thống Cây Tư tưởng?
ToT kết hợp một trình tạo các suy nghĩ ứng viên, một trình đánh giá chấm điểm các trạng thái một phần và một quy trình tìm kiếm (như BFS hoặc DFS) để quyết định xem nhánh nào sẽ mở rộng.
Trên điểm chuẩn của Game of 24, kết quả đáng chú ý của việc sử dụng Tree of Thoughts là gì?
ToT đã cải thiện đáng kể tỷ lệ thành công của Trò chơi 24 so với chuỗi suy nghĩ, thể hiện giá trị của việc tìm kiếm và quay lui.
Hệ thống Cây Tư duy thường đánh giá các giải pháp từng phần như thế nào?
Bản thân mô hình thường đóng vai trò là người đánh giá, đánh giá mức độ hứa hẹn của từng đường dẫn từng phần để việc tìm kiếm có thể loại bỏ các nhánh yếu.
Điều gì đúng khi triển khai Tree of Thoughts trên một mô hình hiện có?
ToT điều phối các khả năng hiện có của mô hình thông qua lời nhắc và vòng lặp tìm kiếm; nó không sửa đổi các trọng số cơ bản.